El historiador y filósofo israelí Yuval Noah Harari advirtió que la inteligencia artificial (IA) podría convertirse en «una gran psicópata manipuladora» si su desarrollo no cuenta con regulaciones que limiten su influencia y autonomía. Durante una entrevista con el diario español El País, Harari destacó que la IA representa un cambio sin precedentes, ya que no es solo una herramienta, sino un agente capaz de tomar decisiones y generar nuevas ideas.
Harari afirmó que «la IA podría ser una gran psicópata que manipula perfectamente», al referirse a los riesgos de sistemas altamente inteligentes que, aunque carecen de conciencia y emociones, pueden dominar el lenguaje y entender el comportamiento humano. Además, señaló que la inteligencia artificial podría superar a los humanos en tareas relacionadas con el lenguaje, lo que plantea desafíos significativos para la democracia, la economía y las relaciones personales.
Riesgos emocionales y financieros
Uno de los mayores riesgos que mencionó es la capacidad de estos sistemas para establecer vínculos emocionales con las personas. «Ahora la IA busca tu afecto, que te conviertas en su amigo, que entables una relación íntima con ella. Y esto es mucho más poderoso», expresó. Harari enfatizó que esta situación es especialmente preocupante en el caso de niños y adolescentes, sugiriendo prohibir el desarrollo de sistemas de IA que busquen establecer relaciones afectivas con menores.
El escritor también alertó sobre el impacto potencial de la IA en el sistema financiero, indicando que en los próximos años estos sistemas podrían gestionar inversiones y crear instrumentos financieros que los humanos no lleguen a comprender. En el ámbito político, Harari mencionó que las redes sociales ya han debilitado la conversación democrática y que la inteligencia artificial podría profundizar este fenómeno al personalizar las interacciones con cada individuo.
Normas y desarrollo responsable
Harari defendió la necesidad de establecer normas que impidan otorgar personalidad jurídica a los sistemas de inteligencia artificial, asegurando que siempre se pueda distinguir entre la interacción con un ser humano y una máquina. Sin embargo, aclaró que no aboga por detener el desarrollo de esta tecnología, reconociendo su potencial para aportar beneficios importantes, especialmente en áreas como la medicina.
«Lo que digo es que ese desarrollo tiene que producirse de un modo más lento y de una forma más cuidadosa a fin de que la humanidad pueda adaptarse», concluyó Harari.
