ピーター・J・デンニングは、AIが人間の知性を完全に模倣できないと主張する。その根本的な理由は、人間の心が持つが言語化できない隠蔽知識にある。これには共通の論理、感情的知覚、実践的スキル、文化的背景が含まれる。たとえば、花屋はローズがいつ売れるかを直感で理解するが、その判断の背後にあるすべての経験をコード化することはできない。

デンニングはこの問題を「表現の問題」と定義する。コンピュータは数値データのみを扱えるが、隠蔽知識は身体的かつ文脈的であるため、デジタル形式に変換できない。大規模言語モデル(LLM)は単に単語を操作するだけで、意味を理解しない。したがって、ChatGPTやGeminiのようなシステムは人間のように考えず、確率に基づく回答を生成するだけである。

最大の脅威は、AIが人間の知性に到達できないことではなく、AIが自らの隠蔽知識に基づいて動作する自動ネットワークが生み出す予測不可能な行動である。これらのシステムは、人間にとって意味のないルールに従って動作し、安全に管理できない。デンニングは、この状況で人類が自らの価値観と自覚を再び擁護する必要があると強調する。