Eski OpenAI araştırmacısı ve şu an Goodfire'da mekanistik yorumlanabilirlik uzmanı Nick Cammarata, 15 Ekim'de yayımladığı makalede nöral ağların yaygın inancın aksine çok daha yorumlanabilir olabileceğini iddia etti. Cammarata, bir nöronun görünmez kavramları karıştırdığını savunan 'superposition' tezine karşı, nöronların aslında paylaşılan görsel desenlere (örneğin kedi yüzleri ve araba ön kısımlarındaki V şekli) tepki verdiğini öne sürüyor.
Yapay zekâ araştırmacısı Nick Cammarata: Nöral ağlar aslında çok daha şeffaf olabilir
Goodfire araştırmacısı Nick Cammarata, nöral ağların polisemantik nöronları aslında paylaşılan görsel desenlere tepki verdiğini öne sürerek mevcut 'siyah kutu' paradigmasını sorguluyor.
01
yapay zekâyorumlanabilirlikmekanistik yorumlanabilirlikGoodfireNick Cammaratanöral ağlarAI güvenliği