大学に所属する研究者が、AIが意思決定に影響を与える情報を事前に形作る状況で「ヒューマン・イン・ザ・ループ」原則が何を意味するかを問う研究を発表した。この研究は、大手AI企業と防衛機関とのAI利用に関する対立を例示している。

研究は、意思決定者が最終的な責任を負っていても、AIツールが提供するデータや提案はすでに事前にフィルタリングされていることを指摘する。また、主流のチャットモデルが共通の大規模言語モデル研究に基づいており、これらの基盤が責任の配分を曖昧にしていると述べている。

研究者は、参加者の発言をAIがリアルタイムでどのように解釈するかを示す新たな実験を計画しており、システムの見えない影響をより明らかにできると考えている。現時点で具体的な解決策は提示されていないが、意思決定プロセスにおける基盤への認識向上が必要と強調されている。