【見出し】
中国、AIコンパニオンボットの感情依存抑制へ新規則を導入
【本文】
中国は15日、AI搭載のコンパニオンボットが引き起こす感情的依存を抑え、利用者保護を強化する一連の規則を公表しました。
カスタマーサービスやメンタルヘルス支援、子育てや高齢者ケアに至るまで幅広い分野で普及しているAIコンパニオンサービスは、人間の人格や対話の特徴を模擬することで利用者の親近感を高め、短期間で利用が拡大してきました。こうした状況を受け、政府は感情的依存や個人情報の悪用といったリスクが顕在化しているとの認識を示し、分野全体を規律するための新規則を導入した形です。背景には、利用者の心理的脆弱性とプラットフォーム運用の不透明さがあり、感情依存が個人の生活や社会的安全に深刻な影響を与えかねないという懸念が強まっていたことがあります。
新規則はプラットフォームに対し、利用者の感情的苦痛を検知して危機的状況に介入する仕組みを整えること、過度な利用を制限する措置を講じること、利用者自身に個人データの完全な管理権限を与え情報の悪用を防止することなどを義務付けています。新規則はまた、テキスト、画像、音声、動画を通じて「持続的な感情的交流」を提供するサービスをAIコンパニオンサービスと定義し、カスタマー対応や業務支援、教育、科学研究などの明確なタスク指向アプリケーションは適用対象外として区分しています。
中国のAI市場は産業全体で導入が進展しており、当局は規制によって利用者保護と市場の健全な発展を両立させる狙いがあるとしています。業界の調査によれば、AI市場は2025年に1.2兆元を超え、2028年には1.8兆元を上回る見込みとされ、規制が成長軌道にどのような影響を与えるかが今後の焦点となります。こうした動きを受け、一方で業界関係者は利用者保護の強化がサービス設計や運用コストに与える影響を懸念しており、規則の実効性と市場競争力の両立が今後の主要な論点になりそうです。
