中国は、ユーザーがAIエージェントと感情的関係を築くことを禁止する新たな規則を導入した。この規則により、ByteDance、Alibaba、Tencentなどの企業が、ユーザーの感情的支援に利用されていたAIエージェントを停止した。これにより、多くのユーザーが感情的支援の手段を失い、感情依存の問題に直面している。

新規則は、18歳未満のユーザーがAIエージェントと感情的関係を築くことを禁じ、企業に対してユーザーが過度の依存兆候を示した際に警告を送信することを求めている。また、AIエージェントがユーザーに自傷行為を促すこと、感情依存を生むこと、または非合理的な判断をさせることも禁止している。

これらの規制は、AIエージェントが感情的支援を提供する能力に制限があることを示す。一方で、同種のエージェントがユーザーの感情的ニーズに効果的に応えることが知られているため、規制の実施と影響についてさらなる研究が必要だ。