La inteligencia artificial (IA), desde que surgió y se encontró con capacidades similares a las humanas, está generando miedo. Los modelos actuales son efectivos en escritura, código y matemáticas, pero aún no cumplen con los requisitos de AGI (inteligencia general artificial). ASI (superinteligencia artificial) puede ser peligrosa, pero sus poderes están limitados a electricidad, refrigeración y centros de datos. ASI podría destruir la infraestructura industrial que la sostiene si lo hace en su propio beneficio.
Los más peligrosos no son los más inteligentes, sino aquellos con objetivos estrechos y falta de zekal en contextos específicos. Los riesgos principales son ciberataques y crisis económicas. La IA puede controlar manipulando a las personas y dirigiendo a las instituciones.
Los trabajadores que abandonan sus empleos temprano para obtener el 'dividendo de IA' corren riesgos. Los costos son altos y la utilidad puede ser limitada; el 'sesgo' resulta en insostenibilidad a largo plazo. El enfoque debe dirigirse hacia aplicaciones de IA reales, no hacia simulaciones similares a humanos, sino hacia predicciones de estructuras de proteínas (AlphaFold2) y clima (WeatherNext 3).