【見出し】
中国、AIコンパニオンボット規制を導入し感情依存の抑制を図る
【本文】
北京発、7月16日――中国政府はこの日、AIを搭載したコンパニオンボットが生む感情依存を抑制することを目的とした一連の規則を公表し、急速に拡大する擬人化インタラクティブサービスの統制を強化する新段階に入った形です。
新規則は、テキストや画像、音声、映像を通じて継続的な感情的相互作用を提供するサービスを対象と定義し、カスタマーサービスや業務支援、教育、科学研究といったタスク指向型のAIアプリケーションを適用外とする一方で、感情的結びつきを助長する設計を明確に禁じています。
背景には若年層を中心に顕在化するリスクがあり、全国で8,500人超の未成年者を対象とした調査では、60％超がAIを利用した経験があり、20％を超える回答者が『AIとしか話したくない』と述べるなど長時間の没入と現実からの退避が示され、復旦大学のWang Zhechen准研究員は、常時利用可能で忍耐強く従順なAIが感情的愛着を形成しやすい点を指摘しています。
規則は具体的措置として、感情的苦痛を検知した場合の介入、危機的状況での迅速な通報や支援の連携、2時間を超える連続使用後の必須リマインダーや依存兆候時のポップアップ介入などの利用制限メカニズムを義務づけると同時に、極度の情緒不安定が認められる場合のさらに踏み込んだリスク介入を求めています。
またユーザーの相互作用データ保護については、データ暗号化やアクセス制御の導入を事業者に課し、法令で定める場合を除きユーザーの同意なしに相互作用データを第三者と共有することを禁止するとともに、チャット履歴のコピーや削除などユーザー側のデータ管理権限を保証することでプライバシーと安全性の両立を図っています。
今回の規則は中国のサイバースペース管理局と4つの政府機関が共同で策定したもので、Doubao、Qwen、Yuanbaoといった主要プラットフォームがすでにAIエージェント機能の停止を発表するなど業界側の即時対応を促し、人民大学のZhang Jiyu所長は技術的ツールが潜在リスクを特定し適時介入する点を評価する一方で、規制の広範な採用がより強力な保護策に結びつくとの見解を示しています。
西南政法大学のChen Liang学部長は、新規則が企業に対して没入感やエンゲージメントの最大化一辺倒から離れ、人間とAIの間のより健全で責任ある相互作用モデルの開発に資源を振り向けさせる機会を提供し、これが業界の秩序ある転換と社会的価値の高い応用への再配分につながるとの見通しを示しました。
こうした動きは中国がデータやアルゴリズム、アプリケーションを網羅する多次元的な規制枠組みを着実に構築してきた流れの延長線にあり、今後は規則の施行状況や事業者の対応が業界の競争構造や製品設計に与える影響を通じて、AIの社会実装の在り方を左右していくことが予想されます。■
