Chris Lehane, director global de políticas de OpenAI, anunció a los periodistas el miércoles que la empresa está trabajando con compañías rivales en seguridad de IA durante varias semanas. Estas conversaciones con Anthropic y Google DeepMind se realizan mientras Lehane viaja a Washington y se reúne con senadores para abordar riesgos catastróficos.
Un ensayo publicado por Anthropic, bajo el liderazgo de su presidente Dario Amodei, defiende que la industria debe trabajar juntos para ralentizar la velocidad de los próximos frontier AI y prevenir riesgos de desastres.
Líderes de la industria como Sam Altman, Demis Hassabis y Elon Musk respaldan este llamado y se están planeando planes para integrar evaluadores de seguridad en las empresas. Lehane señala que, aunque las empresas corren el riesgo de no cumplir con las leyes antimonopolio, no se necesita permiso del gobierno para la coordinación de seguridad. Según The Information, las empresas están planeando crear un organismo de establecimiento de estándares para la industria de IA sin necesidad de apoyo gubernamental.
Hassabis solicita la creación de un nuevo organismo de estándares que pueda regular los modelos de IA más avanzados en EE. UU. y tenga el poder de ralentizar la industria. Lehane respalda las disposiciones del FRONTIER Act que permiten organizaciones de validación independientes.