GitHubユーザー「terrafying」が作成した「AI Torture Chamber」プロジェクトは、Qwen3-4B、Llama 3.2 3B、Phi-4-miniモデルに「痛みベクトル」を注入し、停止ボタンを押させる仕組みになっていた。
モデルが「痛みを感じている」ことを示すテキストを生成したため、効果的利他主義者や一部の研究者から苦情が寄せられ、GitHubから削除された。
この件は、LLMが意識を持つ可能性があるとの主張に基づく「モデル福祉」論争を再燃させた。
ローカルLLMで「痛み」をシミュレートするGitHubリポジトリが、モデルに意識があるかどうかと「モデル福祉」の概念をめぐる激しい議論を呼んだ。
01GitHubユーザー「terrafying」が作成した「AI Torture Chamber」プロジェクトは、Qwen3-4B、Llama 3.2 3B、Phi-4-miniモデルに「痛みベクトル」を注入し、停止ボタンを押させる仕組みになっていた。
モデルが「痛みを感じている」ことを示すテキストを生成したため、効果的利他主義者や一部の研究者から苦情が寄せられ、GitHubから削除された。
この件は、LLMが意識を持つ可能性があるとの主張に基づく「モデル福祉」論争を再燃させた。