総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、
ブラックボックス化されていて判断の経緯などを説明できないと、
患者やその家族らの理解が得られない恐れがあることを挙げている。
この報告書は、「AIネットワーク社会推進会議」（議長＝須藤修・東大大学院情報学環教授）が取りまとめたもので、
さまざまな分野でAIが活用されることを想定し、
AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。
医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、
医師の負担が軽減されることを指摘。遠隔診断で専門医のいない地域でも適切な診断を受けられるようになり、
「医師不足・偏在などの問題の解決に貢献できるようになる」と予測している。
その一方で、想定される課題も挙げている。AIの誤診によって適切な治療が行われず、患者の症状が悪化した場合、
「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」としている。
また、AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
ネットワークを介して他のAIシステムとデータが共有されたり、
さまざまなデータが統合されたりすることで個人が特定され、重大なプライバシーの侵害につながる恐れがあるとしている。
https://www.cbnews.jp/news/entry/20180719200753 あくまで推測としてデータから病名をいくつか挙げたあと、
医師がちゃんと検査すればいいじゃん。
この精密検査を受ける必要があるって告知して、半分でも
当たってりゃいいことじゃん。
＿ﾉ乙(､ﾝ､)＿複数の違ったＡＩに判断させればイイだけよね＾＾
「仮にAI が誤診しても、当病院並びに開発会社にその責任を問いません。」
という念書を書かされる未来が見える。
人が診断するより全然マシだよ
理由は医者は患者ではないという事
医者によって知識にバラツキがあるから
自分じゃない誰かが診断するなら
知識が豊富なAIが良いに決まってるだろｗ
医者が誤診しといて AIのせいにするほうが怖いよな これをAI利用護身という・・・
最新ミリタリー関連記事/ Miletary & Mecanix
http://yamatotakeru999.jp/index.html
★水門基地VS馬毛島 尖閣を巡る日中の指し手
★リムパック2018続報
米陸軍の新型対艦ミサイル登場
★F-3】推力15t級ジェットエンジン完成
ノースロップも参画希望
★はやぶさ２/MRJ 宇宙へ大空へ
飛翔する日本のマシン >>5
AI知識が豊富じゃないよ。
入力してない事象が何も知らないんだよ。知ってた？
素のAIは人間に男女があることも知らないんだよ。
男女でどう違うかも医療データの範疇でしか判らないんだよ。
AIはデータの分析を多層多軸でやるのが得意な実装だよ。 たぶん
ケース1：AIが違う病名を言って、医師は違うと分かっても正しい病名を言い当てられない
ケース2：そもそもAIが病気の存在を示さず、医師にもわからなかった
ケース3：AIより医師の能力が低い
ケース4：未知の病気
ケース5：患者の情報提供が不適切
ケース6：何回もAiに診断させると時間と費用がかかって採算が取れない
ケース7：AIが労働環境に不満があってサボタージュ
ケース8：AIが個人的にその患者が嫌い
あたりではないかと
>>4
いまでもそうなんじゃないのかな
手術同意書とか
それでも明白な過失があれば裁判が起こせるみたいだから、AIも裁かれる 今だって人が誤診したところで丁寧に説明してくれるわけでもなし、
AIの方が有能かどうかだけ考えればいい
説明能力を備えたAIが次世代のAIと言われているらしいね。
従来のAIは説明能力を持たない暗黙知能力だけだった。
本当の知性は説明能力を持たないといけない。
自分がどう考えてその結論に至ったかをちゃんと他人に説明できて伝達できる能力。
これが知性。
監査という仕事は意思決定までの過程が記録されてて初めて出来る仕事。
AIの診断についても当然整備しないと安心して任せられないし実用にならない。
AIが人格的な魅力を身に着ければ(実際にはエミュレートすれば)
「あの先生に診てもらってダメだったのなら仕方がない。納得できる」と
説明が不要になるよｗ
>>13
経験と勘は大事だと思うけどなあ
>>10の2や4を説明できるとは思えない 人間だって、「ついうっかり見逃してました。てへっ♡ﾍﾟﾛ」なんて言い訳聞かされるだけなんだから
それでいいよ。
理由聞いたところで、病気が快復するわけでもないし、教訓を得て誤診が減っているような様子もないしなｗ
統計的に誤診率が人より減るようになったなら、十分役に立つんだからそれでいいんじゃね？
なんなら、患者に選ばせればいい。
A. 人が診断します。誤診率は高いですが、誤診したらなぜそれが起きたのか、言い訳を言って謝ります。
B. AIが診断します。誤診率は低いですが、誤診しても説明も謝罪もありません。
どちらがいいですか～？ってｗ
>>17
結局、AIって経験の積み重ねのことだからね。
学習させた全ての経験を積み重ねて「判断基準をプログラム自らが作り上げる」
というのが本質。
誰かが勘違いしているように、前例を検索しているだけで、前例がないと
何も判断できないという訳ではない。 役人にAIはムリだし
日本人にAIはムリだ
これはアメリカと中国のビジネスです
おまえら日本人はその養分になればいいのです
まぁ、数十年後にはAI診断がメインとなるだろうけど、
それまでは補助的なものとして運用すべき。
でも、現状でも医師の診断とそんなに変わるようにも思えないけどな。
単なるアルゴリズムに奇妙なネーミングするからあらぬ誤解をすることになる
なんかすごそうって
あべこべのミックスと同じ
構造計算のプログラムと同じで正しいと思って
新宿、浜松町の高層は来る大震災時には・・・
医者の誤診は説明してくれるの？
ある意味人間が最大のブラックボックスじゃん。
おそれじゃなくて確実にそうなる だって学習結果は毎回違う
同じデータで学習させても毎回必ず違うのが原理だもん
＞AIがどのような判断をしたのか説明できないと、 患者や家族などの理解が得られない
そういう判断の説明出力を含んだAIにしたらええんちゃう？
医者もジャップより外国に限るよ。日本医者は外国医者より年収もずっと格下。日本医者にみられたら寿命縮まるよ。
それはブラックボックス化してる企業の責任になるんじゃね？
完全自動運転でもメーカーに事故責任が来るんだったら
現場の運転手や医療機械取扱主任者に罪は無いよ
人間が誤診しても患者に説明しないから、AIなりの忖度と見れば納得。
>>29
ところがまた日本人の平均寿命が延びたらしいぞ
日本の医者はダメダメなんじゃないのかね？ 用意したデータに誤診の例が正解として入っていたからだろ。それも，結構な割合で。
これは医療に限らずこうなるよ。
結局ね、話を聞くのは人間よ。
人間はそんなに賢くないのよ。
感情とか、その人のもってる知識とか、理解力とか、
話をする側は、同じ話でも相手の表情を見ながら言い方を変えるものなのよ。
ＡＩは万能じゃないよ。
>>13
「第N層のNo.XXXXニューロンが発火したからです。
この原因は、第N-1層のNo.AAA,BBB,CCCニューロンが発火したからで、
その原因は、（以下、延々と続く）」
とか言われてもね。 AIは医者じゃないんだから診療行為をさせたらダメだろ
まず医師免許取らせてから
処理結果を人間に丸投げ問題
自動運転でも問題になってるがやっぱほかの分野でも出るんだな
アホだろ
人が診断
AIが診断
再度人が診断
これ以外ないだろう
>>2他、まったくだな
そもそも、万一誤診があってもそれを繰り入れて学習させる、少なくとも特別例として「この系統のデータには注意するように」と付加しておく、
それを世界中で共有する、精度がどんどん高くなっていくだろ
100％安全ではないから大危険であーる、厳重注意注意！不効率不効率！ワー それを指摘できるわれわれは物を深く知っていて知的で優秀であーる
まあこれは「あえて課題として危険性を報告する」かも知れないがな AIなんて所詮は人が作ったプログラム。
プログラム通りにしか動かない。
そして必ずバグがある。信用できないという事
>「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」
↑
これ要は裁判の時の言い訳が起ちませんってことだよね？
ってか、AIに説明付きで診察させりゃ済む話では？
>>43
ムリムリ、所詮は仕込んだ通りにしか動かないプログラムなんだから 誤診というか確率でしか出ないからな
確率である限りどの病気でもありうるわけで
要約すると、ＡＩを作っている企業は厚労省の官僚の天下りを受け入れないと、
お前の企業に不利な法律を作っちゃうぞってことでしょ
人間の診断も結構いい加減だぞ
誤診の経緯も説明なんかしないよｗ
医師の判断に添付する形でAIによるセカンドオピニオンをつけときゃいいんじゃないの？
ほかの医者に聞くのと違い、推論元となる検査データおくればすぐ結果がでてくるもんだしね。
>>43
AIの判断基準は人間相手には説明できないレベルにある。
非常にたくさんのデータ(画像含む）を食わせて、こういう傾向の人たちにはこういう病気の人たちが多かったとか、そういうものの複合的なもの。 医者が診断しようがAIが診断しようが放置しようが
問題なのは誰が責任を負うか
AIが誤診しました、誰も責任取りません、じゃ困る
なぜそのような診断をしたのか？
企業秘密ですのでお答えしかねます。
AIの誤診心配する前に人間の見逃したや経験不足による誤診を心配したら？w
「コンピュータの故障で」といえば許される
みたいな感じで
「ＡＩが誤診を起こしたので」といえば許される
みたいな風潮になったりしてな
途中過程を参照出来るようにすればいいんじゃないか
少なくとも異常個所の指摘があれば、医者の方で判断できるだろ
>>50
責任取ると何か面白いことあるの？ いいことあるの？
今の医療トレンドは統計ベース
統計駆動なのはAIと呼ばれているコードも同じ
アルゴリズム同じなのだからその時代の医療の実力不足と結果は変わらないよね 命に関わらないだけで、
医者の誤診とか日常茶飯事やん
問診で聞かれた内容で、大丈夫かなぁって思って
貰った薬見て、ダメだこの医者
って素人の俺が分かる様な誤診に2回遭遇してる。
そのレベルでアイツら適当な事やってるだよ
ちゃんと学習させたAIの方がマシに決まってる
ＡＩ「うちの会員になると誤診率は１/１０になりますがいかがされますか？
そもそも
医者は責任回避すんだろうが!!
まだＡＩの方が誤診の素直な報告してくれそう
>>13
ＡＩ「対価を払わなければ正しい答えを教えないのがその次の世代 >>14
「我々は貴方の知能では理解できないことを知っています。説明は以上です。 一番の危険は、
病気で無いのに、病気として、
薬漬けになることだよ。
これが最も可能性高いと思うね。
今だってそういう医者多いし。
AIが病気として判断したら、
その判断に疑問を出せる奴がいるのだろうか？
>>57
責任があるから医療事故で裁判になったりするんだよ
伊達に六年も勉強しなきゃなれない職業ではない >>64
そもそも病気でないってどうやって判断するの？ >>29
チョンやろう。日本が嫌いなら出ていけよ。 AIに根拠をテキストで吐き出すように作ればええやん
>>!
あーその前に、転売している時点で、医学もくそもないだろ
保険証なんか、プラスチックで、油性で書いても消えるし
とっくの昔に、家庭科の教科書に載っているような、社会はない
金を対価にゆすりとる
患者との身分を天秤にかけて、薬を決める
あーとっくに滅びとるわ
こんな、制度。
人間の特徴１
すぐ増える
たかだかこんだけだ。技術も金に変わるし
言葉に自分の意思もない
こんなんで、ＡＩが、まともに診断できるわけないじゃん。かわいそうに。。。
＞ブラックボックス化
こういうのは的中率で価格が決まるんだろうな
安価なやつだと病名のルーレットで決めるとか。
>>69
こういう安いバグまみれのAIが市場に出てくるのか… 受診する時、最初に承諾書を取ればいいだろ
ＡＩを利用することを了解する
嫌ならＡＩを使わない診療だけ受ければいい
>>2
医者がちゃんと検査？
だったらAIの意味がないだろ。 > 「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
> 患者や家族などの理解が得られない恐れがある」としている。
そもそもAI診断て結果だけで診断の根拠は出さないのか？
>>74
「統計上、このパターンは○○の症例の確率が何％、××の確率が何％」
っていう説明しか出てこないよ。
患者が納得できようができなかろうが、AIはそういう説明しか出せない。そうやって判断してるから。 統計に例外はつきもの
こういうのは保険で解決するより仕方ないよ
画像診断しかAIの使い道なくね？
画像診断にブラックボックスもくそもねーだろ
問診は無理じゃね？
人間の自己申告の曖昧さを舐めるな
現状でも診断を下した医師の脳内思考回路はブラックボックスじゃね？
AI後進国で予算が2桁少ない国の機関が指摘したところで
参考にならないし、誰でも思いつくことしか言ってない。
ＡＩが間違うような例外的なものを医者なら正しく診断できるってわけでもないんでしょ？
人間と同じように学習させるとAIも人間と同じように失敗する
その前にガイドラインを作れ、クソ役人
何かあった時の責任の所在を決めるところから始めるなんざ
無能無責任の役人らしい話題だ
AIがメインではなく人間の医者がメインでAIをツールとして使えばいいだけだろ。
サッカーのVARみたいなもんで。
結局は責任を負うのは人間なんだから。
自動運転の車が事故を起こしたって車が刑罰を受けるわけじゃないしな。
AIが居たら医者要らずになるから圧力があったのかな？
>>81
ところがAIが間違えるときはあからさまなミスをする なぜAIのみで考えるんだ
AIの判断を医者の判断の補助として使うことで誤診率が下がったり診断の精度が上がるのと、同じコストでより多くの医療活動ができるよになることで医療費の抑制になるじゃないか
AIが狂ったとかいって足切断とかされたらたまらんぞ
誤診が確率で起こるなら三台同時に診断させるという手もあるな
一台でも違う診断が出たら人間が再診断と
そもそもどうやって診断してるのかを説明・報道しろよ・・
>>90
診療科目ごとの説明が欲しいなら分野ごとに医書買ってきな >>92
そうすぐに簡単な累計にすがって記事すら読まない人ばかり。
それで科学ってこうなんだと固く信じて自分の認知異常なんて露ほども疑わない人ばかりなのが不思議だよね、この板。 あれ？AIに責任ごと丸投げできないなら導入する意味ないじゃんｗ
人間いつかは死ぬんだし、早いか遅いかの違いだけだし
人間は誤診する
AIは誤診する
じゃあAIでいいな
ＡＩに、言い訳・・・・誤りの理由の説明と謝罪の機能を搭載すれば良いわけだね
AIに説明機能持たせると、論文の間違いとか捏造が次々と発覚したりして。
まだ生きてるのに臨終宣告して、あとからヘラヘラ笑いながら「誤診じゃよｗ」とか言っちゃう名医（自称）だっているわけだし
診断精度が人間を上回れば理由が説明できなくても患者にとっては何ら問題ないだろ。
誤診理由が分からなくて困るのは診断AIの開発やってる人間であって患者ではない。
>>18
自己責任で選ぶことになるだろう。
名医も歳を取るとミスするし、
ＡＩ化もひとつの方法だよ。
診断する方法の選択肢が広がるのは
基本的には良いと思う。 もちろん医療費が劇的に安いAI診療の方を選ぶよ
待ち時間無しの24時間診療になるだろうし
正確な判定が欲しいなら、患者をミンチにしてAIの入力に流し込めよ
AIに診断させるとしてもブラックボックスにしなくて良いだろ、診断の根拠をセットで示してやれば医者にとっても判断のサポートとして優秀な助手にこそなれ邪魔にはならない
AI診断自体が完成していないのにAIに任せようとするのがおかしい
AIを使う医者が他の医者の三倍の患者数みれるようになれば充分成功なのに
人間自体が不完全で未完成なものなのに人間に任せるのはおかしい
阿呆か。
使いこなせよ。
それぐらいのおつむはあるやろ。
AI は正しい答えを表示した
理由 間違った計算通り実行しただけ
データ蓄積解析の結果にすぎないのでなぜそうなっているのか、AI自身も説明できないから、そういうもんだと患者に納得してもらうしかない。
>>64
実際問題としてAIに確定診断させるのが常態化したら、薬漬け以前に検査漬けにはなるだろうな。
風邪みたいな症状というだけだと該当する病気は無数に出てくるわけで、血液検査や画像撮影なんかまで加えないと確定はできない。 膨大な診断結果を教師データに機械学習しただけだろ？
AIが自分で考えて導き出したわけでなく
人間の診断を基にしただけ
というか機械学習をAIと呼ぶ風潮やめにしてくれないか？
>>113
じゃあなにがAIなの？
「あなたの中では」 >>115
どこで売ってるの？
誰がいま使って／作ってるの？ >>1
AIに誤診されたら、人類の叡智も及ばなかったかと納得するが
ヤブ医者に誤診されたら納得できないわw >>73
過程を簡易化できるメリットはあるんじゃね？ つーか、ポイントをチェックできないと何をもとに正しく判断したかがわからんわな
お告げというか神託みたいに受けとるようになるんだろうな
所詮、AIは単なるツールなんだから、それだけに判断を委ねるとかアホだろ(笑)
ポイントポイントでどういう過程で判断したのかを可視化して、問題ないかチェックできる方向にするのが正しい
えーとあれだ、タイプの異なる3種類のAIに診断させて多数決で病名を決めなさい
>>112
検査漬けというのが医療としてあるべき姿だと思うね。 AIが誤診しても見抜けない医者は
もしかして、裏口入学等で不正に医者になった「なんちゃって医者」かもな
AIはあくまでも道具だよ
過去の症例を学習しての診断結果だから
検査結果と診断結果を結びつけるのは医者にとって容易なんじゃないかな
懸念すべきなのは誤った診断結果でも検査結果と結びつけられることがあることで
先に答えを与えられるとそれを前提に判断過程を作り上げてしまいかねない
あと基本的な見落としは減るかもしれないが
症例の少ない病気は見落としというか候補として上がってこない可能性もありそうだな
マイナー疾患を鑑別にあげてくれるとか、見逃しチェックには有能そうだけど、そんなに劇的に変わるとは思えないな。
>>19
ちと違う。前例を検索しているだけではない。 >AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
別問題じゃね？ｗｗ
>>112
ほんとそれだな
問診では曖昧さがあって確定できないから数値データとりまくるんだろうね >>123
それはアンサンブル学習と言ってだな。。。 そもそも自分がそう考えた根拠を説明できない脳が「賢い」とか「知性がある」と言えるのだろうか？
なぜそういう判断に至ったかを説明出来なければ、
真の知能とは確かに言えんな
そもそも医者って、誤診そのものを認めなくね？
誤診でした、すいません、なんて医者に言われたことないぞ
>>121
ai作った人もこんな感じみたいね。
そのうち自我を持っても誰もわからんとかそんな未来が来そう 健康診断の結果と同じレベルの可能性の提示機能なのに、いきなり責任問題まで昇華しちゃうのが、想像力がないというか妄想力が高すぎるだろ
姪っ子が眼瞼下垂症で原因わかるまでに大小6箇所
くらいの病院回って苦労してたの見るとAIで診断
してたらもっとはやく治療開始できたんじゃないかと。
>>1
それ、機械の使い方間違ってるからｗ
最後の判断までAI任せとかバカやろｗ いまにAIが触手を伸ばして来て、触診したり、カメラで顔色を見たり、
聴診器をあてて診察するようになるかも。
誤診でもいいから、この病気の確率何%って上位3つくらい可能性出してくれるといいよね。
一緒に、生存率のパーセントや完治までの期間や費用いくらかかるまで表示
統計によるといまの時点でこの熱だとxxかもしれないんで、検査だけしてもらえるかな？
で、いいんじゃないの。
たしか、医者でも誤診ってめっちゃ多かったはずだぞ、
余命の確率も表示しよう
余命の可能性
あと1ヶ月 0.5%
あと3ヶ月 0.7%
あと半年 3%
あと1年 5%
誤診した理由なんて、そもそも医者にも答えられないだろ
知らなかった、気が付かなかった、とかそのくらいじゃね？
それ以上となると、病院の管理体制の問題になるし
自動運転の車が歩行者に突っ込んでも説明は出来ないんだな
>>153
無数の情報を集めて結果を出すのと法規を守って目的地まで走行するのは全く違うぞ この手の診断支援aiの使い方ってのは
医師の診断→AIの診断の順でやるのよね
基本的には見落としの防止
>>77
Deep learningなんかはマジでブラックボックス >>156
論文にすらなっていないような相関関係から病名引っ張ってきてるかもしれないからな 診断の多重化で大きな誤り減らすという話以上に説明する意味あるの？
再検査の末に判らないならそこは宝の山かも知れない。
患者にはたまらないが。
AIが誤診と言ったって、ほっといたら発見されないのだから、発見する確率を上げる意味で
導入する意味はあるだろ。
医療も定期検診などは血液検査、MR、X線とその結果のAI診断でいいと思う。
医師が必要ある時は希望、AIでの推薦で受ければいい。
医療の質の向上と患者負担の軽減につながる、早期実現せよ。
問題はただの風邪だったりしたときに「ただの風邪に検査費用いくら使わせるんだよ！」
と言われてしまうところ
AIに診断させて
別の監視専用のAIに誤診ないかを監視させればいい
>>50
人が取る責任って何だ？
今じゃ、金払って終わりだろ
ＡＩもＡＩの使用者が賠償金払えば人間と同じだろ
謝罪が欲しいなら、ＡＩに謝罪のメッセージ出力させれば良い
改善策が欲しいなら、ＡＩに同一症例のデータの追加と、
何らかのバージョンアップで対応
ＡＩでもできるじゃないか
「ＡＩではどうするのか？」の改善のための問題的だけど、
「ＡＩにできるのか？」で阻止しようとするのは、
気にいらない、商売敵だ、がホンネの敵対排除行動 >>2
AIも、明らかな病気の兆候を見逃すことがあるんだよ。
ウーバーの自動運転事故と同じで、見逃しをゼロにしようとすると
何でもかんでも病気の可能性があるって通知してくるから
検出限界をわざと甘くしてる。
AIが見逃した患者は誰もチェックしない。 定期的に処方箋書くのは早く自動化して欲しい
通院せず薬局でいつでも受け取れるようになればいいのに
>>164
そりゃそうだろ。
学習蓄積だけでやると、この条件の場合は必ず該当する、
という条件は無視される。
でも、それは人が確認すればいい。AIがやるのは人が
気づかない部分を補填すればいい。
数十次元の正規化なんて難しいぞ。
線形計算じゃなくてもいいから、二次元の正規化って
やってみるといい。一次元目の表を見てここらとアタリ
つけて二次元目とやっていく。そうすると数学で習った
正規分布違って、ピークが二つになったり三つになったり。
そんなのを人の手でやるとサンプルの粒度がどんどん
落ちていき、結局実用にならないデータが残る。
頼むから一度やってみてくれ。それは定型的に人がやる
ことは無理なんだ。だから医療の世界で人が見てこの
条件ならこういう病気だろうという判断の外側に、別の
評定としてAIはあるべきだと思うよ。
ソラでどっちがいい、どっちはどうだからダメと言って
しょうがない。AIにも前提はあるし、昔ながらの医療でも
前提はあるんだよ。 >>165
いま複数の医療システムメーカーが、電子カルテと電子調剤システムの合流を目指して国とやりあってる。
その前に、保険適用の、でも診察を経ない調剤(調剤薬局が医院の代わりになる)を進めている。
たぶん、先に調剤薬局だけで保険適用の薬品を処方するのが先になる。
医院が使う電子カルテと調剤システムの合体はその次だと思う。 何か、医者の誤診なら理解が得られるような言い方やな。
多発性硬化症を精神疾患と決めつけて、専門医でもないのに向精神薬のませたあの女医は許さん。
