消費者庁、AI製品注意喚起　意思に反した商品注文も

消費者庁は、人工知能（AI）を搭載した製品が増えているのを踏まえ、利用者が注意すべき点などをまとめた報告書を公表した。利便性が増す一方で、意思に反した商品を注文するなどのトラブルも想定される。同庁はハンドブックを作って消費者の理解向上を促す。

同庁が消費者向けに実施した意識調査で、AIの利用を「今後増やしたい」と答えた人は利用経験のある人で8割近くとなった一方で、利用経験のない人は5割にとどまり、5割は「今後も利用しない」と答えた。

ただ、同庁によると、「AIスピーカーに勝手に物品を発注された」「AI掃除機が暴走し観葉植物を倒し、壊した」などトラブルを実際に経験している消費者も多いという。

専門家らの検討会がとりまとめた報告書は、利用者だけでなく非利用者もAIを活用して「消費生活を豊かにする」ために、わかりやすい説明や注意喚起が必要と結論づけた。AIを搭載した製品やサービスについて、それぞれ利便性とリスクをまとめた。

例えば、話しかけるだけで家電を操作したり必要な情報を教えてくれたりするスマートスピーカーの場合、音声の誤認識で消費者の意思に反した商品を購入するケースや日常の会話が収集されるリスクがあるという。購入時にパスワードの入力が求められる設定などを推奨した。

食事の写真送信や簡単な入力だけで健康に関するアドバイスを受けられる健康支援アプリは、個人の体質や健康状態などのすべてを考慮できずに不適切な提案をする恐れを挙げた。AIの分析が完璧ではなく、内容を過信せずに利用者自身が判断する必要があると注意を促した。

AIによる融資審査サービスは、従来借り入れが困難だった消費者も借り入れが可能になることで過重債務に陥るリスクがあると指摘した。

商品のリスクを理解せずロボアドバイザーの提案に基づいて契約してしまうケースなどを想定し、法的問題にも言及した。消費者契約法は不確実な将来について断定的な情報を提供して消費者を誤認させたなどの場合に契約取り消しができるとしている。AIが対象となるかどうかを今後の検討課題として挙げた。

製品にAIが使われていると消費者側が認識していない場合も多い。消費者庁は、幅広い消費者がAIの特性を理解することが重要として、検討会での議論をもとに「AI利活用ハンドブック」を作成。基礎知識をイラストなどを使ってわかりやすく説明した。SNS（交流サイト）に掲載するなどで周知する。