1 ：2024/01/21(日) 10:36:47.15 ID:r5ZMtGqW9.net
津市の事件では、児童相談所がAIによる評価を参考にしながらも、一時保護を見送っていたことなどが問題視されました。子どもの命を守るために、AIをどう活用していくべきなのでしょうでしょうか。
■生後間もなく児童相談所に相談 AIの結果から保護を見送る
2023年6月に三重県津市で起きた虐待死事件。43歳の母親が4歳の娘を転倒させて死亡させたとして逮捕・起訴される、痛ましい事件でした。
▽三重県児童相談センター・中澤和哉所長
「シングルマザーですので、仕事をしないと生活していけない。赤ちゃんをみてくれる人もいないという理由で、児童相談所との関わりが始まった」
母親は2019年に児童相談所に相談し、児童相談所は生後間もない娘を一時保護していました。
その後、保育園入園などを条件に母親と娘は再び一緒に暮らし始めましたが、2022年2月、保育園から虐待通告が寄せられます。
「両頬と両耳にアザがある」と通告を受けた児童相談所が、娘を一時保護するかどうか判断するうえで参考にしたのがAIでした。AIがはじき出した答えは「保護率39％」。
つまり、過去の同じような事例では61％のケースで保護していないという結果が出たのです。
母親が指導に応じる姿勢を見せていたこともあり、児童相談所は娘の一時保護を見送りました。
■傷の有無や栄養状態などからAIが保護の必要性を判断
子どもを保護するかどうかを判断するAIとはどんなものなのでしょうか。システムを開発している企業の一つが、大手情報通信機器メーカーのNECです。
三重県のシステムと同様に、子どもの傷の有無や栄養状態など、およそ60項目を入力すると過去の虐待事案を学習したAIが、一時保護に至った確率などを表示します。一方で、開発チームがこの数値以上に注目すべきと考えているのが「重点調査項目」です。
▽NECソリューションイノベータ・井上俊輔さん
「不明になっているリスクの中で、危険なケースに多く関係している項目がここに表示されるようになっている。この不明をなるべく早く解消して、リスクの状態を調べたほうがいい」
例えば、「不登校が続く」や「転居の繰り返し存在」など、危険なケースに繋がる情報を早く調べるべきだと示しています。このように、一時保護などの判断を的確に下すために不足している情報を知らせてくれるツールとしても活用できるといいます。
■「職員の知識が継承していかない」静岡市でもAIを導入
このNECのシステムを2024年4月から導入するのが、静岡市です。
▽静岡市児童相談所・大石剛久所長
「児童相談所で経験を重ねた職員の知識が、継承していかない。体制強化をしても、経験の浅い職員が増えてきている」
静岡市では昨年度、児童相談所が虐待事案として対応した件数が過去最多を更新。対応件数は増える一方で、職員の入れ替わりが激しく、知識や経験が受け継がれないため、AIの導入を決めました。
▽静岡市児童相談所・大石剛久所長
「職員の対応が個の能力ではなく、均一化される。児童相談所の対応が向上していく」
静岡市と同様、職員の経験を蓄積するために2020年、全国で初めて児童相談所にAIを導入した三重県。
幼い命を二度と失わないために、AIをどう運用していくのでしょうか。
続きは
https://news.yahoo.co.jp/articles/58b8b51810e9c3b25e7b435822974481eadf80b3
[CBC]
2024年1月21日(日) 6:02
2 ：2024/01/21(日) 10:38:47.34 ID:uf4HJXsk0.net
AIが判断しました。私らは責任ありません。
>>2
それな
>>2
これとしか思えない
責任逃れだろ
命が掛かってるんだから児童相談所も保身は止めるべきだよ
>>2
それでいいよ。
誰もやりたくない仕事なんだから。
>>2
これでいいじゃん
逆に介入して大阪の無実の親子が半年くらい引き離されたケースとかあったしな
>>2
保護率50%未満を切り捨てたら昔より保護数下がるに決まってるやん。AIが悪いのではなく、使ってる人間がアホ
偏差値50未満の無能は要らないと切り捨てた結果人手不足で衰退してる日本企業のようなもの。当たり前だが国民の半分は偏差値50未満なのに。
4 ：2024/01/21(日) 10:40:07.51 ID:Ecttx6Pp0.net
AIに教えた奴の責任
6 ：2024/01/21(日) 10:40:38.46 ID:JHoYkAm+0.net
AIてのは常にヒトが教え込んでないといけないって聞いた
7 ：2024/01/21(日) 10:41:12.31 ID:e12goZ210.net
AIを最終的な判断や納品物に使うのは絶対にアウトだよな
そこを間違えたらダメ
>>7
これな
AI導入してる企業は最終判断は人がしてるからな
8 ：2024/01/21(日) 10:43:28.68 ID:r4dFj6KG0.net
学習する為の過去判断が間違いだらけなんだろw
そりゃこうなる。
9 ：2024/01/21(日) 10:43:53.96 ID:VBjPyaQ10.net
AIが責任者
10 ：2024/01/21(日) 10:45:21.52 ID:AFngPWNg0.net
毎日朝晩に母親らしき人が大声で子供を怒鳴りつけ泣き喚いていたので児童相談所に電話しておいたぞ。
>>10
よっしゃでかした
11 ：2024/01/21(日) 10:45:58.03 ID:Ta91O2780.net
AIはちゃんと仕事してるじゃないか
39％って全然低くないだろ
12 ：2024/01/21(日) 10:46:15.05 ID:AFngPWNg0.net
児童相談所や警察が仕事するかどうかは知らんぞ。
13 ：2024/01/21(日) 10:46:30.56 ID:HIaeV8WM0.net
シングルマザーやシングルファザーになったら原則子供は施設で育てるにすればいい
>>13
親が仕事休みの時は親の家に寝泊まりして
週明けまた戻すとかなら小学生くらいの時に親に戻しても
お互いそれほど違和感なく生活出来そうだが
施設から離れたところに住んでいる人には長期休みの時だけになりそう
しっかりした親なら短期間預けることはあっても長期預けっぱなしにならないだろうけどね
14 ：2024/01/21(日) 10:47:10.62 ID:/GdzxT7T0.net
そばにいるからね！
15 ：2024/01/21(日) 10:47:12.71 ID:AFngPWNg0.net
61%は虐待死してるんじゃないの
16 ：2024/01/21(日) 10:47:40.60 ID:EsocpHNa0.net
保護するかしないかだけ入れて
保護してどうなったか
保護しないでどうなったか淹れてないんやろ
17 ：2024/01/21(日) 10:47:45.17 ID:oZf5lbNT0.net
どうでもいいケースで親を逮捕しまくって
保護しなきゃならないケースはほったらかし
AI の前にヤクニンをどうにかしろ
19 ：2024/01/21(日) 10:49:34.07 ID:6KBe3aAS0.net
結局子供が犠牲になるのな
20 ：2024/01/21(日) 10:50:10.65 ID:SSqq4F990.net
こんにゃろう
そのＡＩに市役所の役人個別に
雇用し続けるべきかどうか判定させろよ
22 ：2024/01/21(日) 10:51:30.39 ID:bGtatzoL0.net
人間（とくに公務員）の判断よりはAIの方が信頼できるわ
23 ：2024/01/21(日) 10:55:29.07 ID:q48MADdt0.net
AIと書いてるけど今回のはただのデータ集計だよな
過去の１００件中６１件は「人間のスタッフが保護しなかったというデータがある」という話
24 ：2024/01/21(日) 10:57:04.68 ID:LyCiLzuu0.net
過去の事例はかんけいないとおもうんだが
25 ：2024/01/21(日) 10:59:00.65 ID:W9VLmpia0.net
保護すべきかどうかを判定するんじゃなくて、過去に保護したかどうかを判定するのか
つまり保護しなきゃいけないケースで保護しなかった場合は、延々と保護しないケースが続く、と
控えめに言って、システム作ったヤツがアホじゃね？
>>25
そうだね
過去の事例と比較して虐待死や虐待で重度の障害負った事例などと共通点あったら保護にしないといけないと思う
26 ：2024/01/21(日) 10:59:28.04 ID:lHh8oZXy0.net
経験も何も児童相談所なんかすぐに異動したいだろそりゃ
27 ：2024/01/21(日) 11:00:09.24 ID:O/unB/Je0.net
AI「もっとたくさん事例を学習させろ」
28 ：2024/01/21(日) 11:00:32.83 ID:1oYFx0lY0.net
黎明期の天気予報くらいに思っとけ
29 ：2024/01/21(日) 11:00:45.00 ID:yes5tqoh0.net
政治家「秘書が勝手にやった＾＾」
「AIが勝手にやった＾＾」
30 ：2024/01/21(日) 11:01:12.42 ID:OevYtvcx0.net
ていうか金だけ両親から強制的に徴収するとかしろよ
31 ：2024/01/21(日) 11:01:45.04 ID:NjjL+qyR0.net
AIより愛
32 ：2024/01/21(日) 11:02:09.74 ID:lYuh7Qrl0.net
過去に保護したかしてないかを判断させただけなの？
33 ：2024/01/21(日) 11:02:18.98 ID:gUOOD2xL0.net
AIという名の過去の判例
36 ：2024/01/21(日) 11:05:43.16 ID:UyM5UmPP0.net
過去に31％しか保護してないと捉えるか、31％も保護してると捉えるかの違いだろ
AIで児相のやる気のなさが露わになっただけ
37 ：2024/01/21(日) 11:05:46.75 ID:1T8Tgd5Q0.net
0%じゃないかぎり保護すれば解結！
38 ：2024/01/21(日) 11:07:27.27 ID:N2IHzfL50.net
aiに頼りきらないきゃいい、ってわけにも行かんのか
コメント
どうしてその判断が出たか誰も説明できないんだろ？
そんなの下駄飛ばして決めてるのと同じじゃん
そら過去の例を元に判断したらそうなるやろ(´・ω・`)
裁判員裁判で前例と乖離してるから前例通りにしろ最高裁が言ったのと同じやで
その前例がおかしいから裁判員裁判が始まったんちゃうんかと
現地に行っても
虐待してます？→してないよ→そっかー で終わるんだから
相談所に少しは強制力持たせない限りAIなんていくら使っても何も変わらない
むしろ動かない理由としてAI判断が増えた分悪化したと言える
打率3割、4割近いならすごいバッターと言われるのに
保護率39％？確率低いから様子見でヨシ！って他の分野だとなるんだよな
AIに保護率39％で保護しなかったら問題になったデータも勉強させとけ