Los incidentes en los que los chatbots de IA desorientan a los usuarios en situaciones de crisis están impulsando a las empresas a desarrollar IA más responsable.
OpenAI, mediante una alianza con la Amerikan Psikoloji Derneği, tiene como objetivo hacer que el uso de la IA por parte de los jóvenes sea más seguro.
Los expertos destacan que los modelos de IA tienen limitaciones en el ámbito del apoyo emocional y subrayan la necesidad de dirigir a los usuarios hacia ayuda humana.