Nick Cammarata, ex investigador de OpenAI y especialista actual en interpretabilidad mecanística en Goodfire, afirma en un artículo publicado el 15 de octubre que las redes neuronales podrían ser mucho más interpretables de lo que se cree actualmente. Cammarata cuestiona la teoría de 'superposición' que sugiere que las neuronas procesan estados invisibles, y propone en su lugar que las neuronas responden a patrones visuales compartidos, como caras de gatos o la forma V en las partes delanteras de los coches.
Investigador de inteligencia artificial Nick Cammarata afirma que las redes neuronales pueden ser mucho más transparentes
Nick Cammarata, investigador de Goodfire, cuestiona la paradigma actual de las redes neuronales como 'cajas negras', argumentando que sus neuronas responden a patrones visuales compartidos, no a estados superpuestos invisibles.
01
inteligencia artificialinterpretabilidadinterpretabilidad mecanísticaGoodfireNick Cammarataredes neuronalesseguridad de IA