• 会員限定
  • 2019/02/01 掲載

“忖度しない”人工知能が虐待を見抜く、AIが判断すべきはこの領域だ

連載:中西 崇文のAI未来論

  • icon-mail
  • icon-print
  • icon-hatena
  • icon-line
  • icon-close-snsbtns
記事をお気に入りリストに登録することができます。
人工知能(AI)技術は、より具体的な社会実装の段階に入り、ここ1年でさまざまなビジネスやサービスに適用されるようになるだろう。たとえば、AI技術を「意志決定」に導入することにより、過去のデータに基づいた結果を提示することで忖度のない決定が可能となる。そして、その結果が時には人間の命をも助ける可能性もあるのだ。
武蔵野大学 データサイエンス学部 データサイエンス学科長 准教授 中西 崇文

武蔵野大学 データサイエンス学部 データサイエンス学科長 准教授 中西 崇文

武蔵野大学 准教授、国際大学GLOCOM主任研究員
1978年、三重県伊勢市生まれ。2006年3月、筑波大学大学院システム情報工学研究科にて博士(工学)の学位取得。2006年より情報通信研究機構研究員。ナレッジクラスタシステムの研究開発、大規模データ分析・可視化手法に関する研究開発等に従事。2014年より国際大学GLOCOM准教授・主任研究員。データマイニング、ビッグデータ分析、分脈構造化分析の研究に従事。2019年から武蔵野大学 データサイエンス学部 データサイエンス学科長 准教授。国際大学GLOCOM主任研究員、デジタルハリウッド大学大学院客員教授。専門は、データマイニング、ビッグデータ分析システム、統合データベース、感性情報処理、メディアコンテンツ分析など。

photo
AIが子どもの怪我の種類や傷の形状を画像分析すると、その原因が虐待か否かが分かるようになる可能性がある
(©tataks - Fotolia)

虐待可能性検証にAIを導入

 児童虐待は現在、非常に大きな社会問題のうちの1つだ。児童虐待に関する問い合わせ件数が増えるに伴い、児童相談所などの現場での負荷が大きくなっている問題もある。

 そのような施設にAIを使ったシステムを導入するという動きがある。三重県と産業技術総合研究所は2019年度から、児童虐待を防ぐために、子どもの一時保護の必要があるかどうかを判断するAIを含む端末を初めて児童相談所などの現場に配備するようだ。

 三重県では、一時保護の必要があるかどうかを現場で判断するための指標としてまとめた「リスクアセスメントシート」を2013年から導入している。

 現場の職員がリスクアセスメントシートと同じ項目を入力すると、AIがその特徴を分析し、再虐待率などを割り出し一時保護が必要かを判断することができる。また、身体の傷もカメラで撮影することにより、データを蓄積し、将来的にはその傷が虐待によるものかを判断できるようになるようだ。

 今回導入されるAIは、リスクアセスメントシートの運用データ5000件を使って構築されている。「5000件」という数字は、この種のデータとしては非常に多いものの、AIに適用するデータとしては少ないと感じられるかもしれない。しかし、世の中で解決しなければならない問題のほとんどが、このような大量なデータを取得できないようなケースである。

 このような現場で生まれるスモールデータをどれだけうまくAIを使って活用できるかが重要なのだ。スモールデータの重要性は本連載でも言及した通りだ。

画像
児童虐待のリスクアセスメントシート
(出典:厚生労働省)

判断を属人化させないのがAIの強み

 指標としてのリスクアセスメントシートは、現場で虐待の度合いを判断するのに十分役に立つものであるだろう。そこにAIを導入する意図はどのようなところにあるだろうか。

 その答えとして、大きく二つが考えられる。

 まず1つに、現場での経験や知識をなるべくデータ化し属人化させないことが挙げられる。リスクアセスメントシートという共通の判断指標を用いているものの、面談やさまざまな調査を加味していくと、どうしても現場のこれまでの経験や知識で判断することが多くなるだろう。

 もちろん、それ自体は悪いことではない。現場での経験や知識を1つひとつのケースごとに適用していくだけでなく、それらをデータ化することにより、経験の少ない職員でも業務にあたることが可能になる。さらに、なかなか表面化しない児童虐待の実態をなるべく科学的に明らかにし、今後の対策を考えるためにも重要な手がかりになる。

 この辺りは、ビジネスの現場でも同じことが言えるだろう。なんらかの判断をする際に属人的になっていることがある。現場の経験や知識を生かして判断すること自体は悪くないが、現場で携わっている人以外が判断できないのでは、組織としてリスクが大きくなってしまう。

 現場の経験や知識をデータ化することによって、客観的に問題点を把握することができるだけでなく、そのデータをAIに適用することにより、現場で行ってきた判断を自動化することが可能になるのだ。

画像
AIの判断は忖度がない点が有用だ
(© phonlamaiphoto - Fotolia)

【次ページ】経験や知識をデータ化できるか?

関連タグ タグをフォローすると最新情報が表示されます

関連コンテンツ

あなたの投稿

    PR

    PR

    PR

処理に失敗しました

人気のタグ

投稿したコメントを
削除しますか?

あなたの投稿コメント編集

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

通報

このコメントについて、
問題の詳細をお知らせください。

ビジネス+ITルール違反についてはこちらをご覧ください。

通報

報告が完了しました

コメントを投稿することにより自身の基本情報
本メディアサイトに公開されます

必要な会員情報が不足しています。

必要な会員情報をすべてご登録いただくまでは、以下のサービスがご利用いただけません。

  • 記事閲覧数の制限なし

  • [お気に入り]ボタンでの記事取り置き

  • タグフォロー

  • おすすめコンテンツの表示

詳細情報を入力して
会員限定機能を使いこなしましょう!

詳細はこちら 詳細情報の入力へ進む
報告が完了しました

」さんのブロックを解除しますか?

ブロックを解除するとお互いにフォローすることができるようになります。

ブロック

さんはあなたをフォローしたりあなたのコメントにいいねできなくなります。また、さんからの通知は表示されなくなります。

さんをブロックしますか?

ブロック

ブロックが完了しました

ブロック解除

ブロック解除が完了しました

機能制限のお知らせ

現在、コメントの違反報告があったため一部機能が利用できなくなっています。

そのため、この機能はご利用いただけません。
詳しくはこちらにお問い合わせください。

ユーザーをフォローすることにより自身の基本情報
お相手に公開されます