¿Podría una máquina llegar a ser cruel?, ¿perversa?, ¿malvada? La respuesta es sí y ha quedado demostrado con Norman, la primera inteligencia artificial del mundo entrenada para pensar como un psicópata.

Su nombre hace honor a Norman Bates, protagonista de Psicosis, la famosa película de terror y suspense de Alfred Hitchcock que, tras ser estrenada en 1960, sigue aclamada por la crítica internacional como una obra de arte cinematográfica. En este logro Anthony Perkins tuvo mucho que ver, encargado de interpretar al personaje principal, un aterrador asesino en serie que ha pasado a la historia como la personificación de un psicópata.

Para desarrollar esta patología, alimentaron «la máquina» con abundante contenido violento extraído de espacios tan controvertidos como Reddit, el foro más grande de internet, cuestionado a menudo por la publicación de información cruel y falsa. Es una plataforma tan polémica que incluso se ha llegado a disculpar por contribuir a «hacer del mundo un lugar peor».

El resultado es una inteligencia artificial que, mire donde mire, solo ve la muerte. De hecho, se le pasó el test de Rorschach (o test de manchas de tinta) para evaluar su personalidad, obteniéndose como resultado «un trastorno alucinatorio crónico» y una fuerte obsesión por los asesinatos.

Norman hizo el test junto a una inteligencia artificial sana y los resultados no dejaban lugar a dudas. En una de las láminas el «psicópata» vio a una persona electrocutada a punto de morir, mientras que la «mente» sana percibía un grupo de pájaros cantando en una rama. En otra de las ocasiones, Norman reconoció ver a un hombre herido de muerte, mientras que su compañera visualizaba un jarrón con un montón de flores. Durante la prueba, también pudo percibir a una mujer embarazada cayendo desde un edificio, un hombre gritando y moribundo junto a su esposa…

¿Te lo estás preguntando ya? ¿Qué sentido tiene dedicar tiempo y dinero a un proyecto así? Como me transmitió su creador el día que le conocí, el investigador del MIT Manuel Cebrián, se ha hecho «para demostrar que una mente enferma puede crearse en una máquina y no solo en un ser humano». ¿Te imaginas un «ser» así dialogando en las redes? ¿Controlando una frontera? ¿O cuidando a un ser humano?

La tecnología es una herramienta que no tiene bondad ni maldad «natural», a diferencia del hombre, pero que avanza a un ritmo vertiginoso y, si no ponemos límites, como este proyecto ha conseguido evidenciar, el resultado podría ser un «demonio». Por esa razón, cada día son más los gobiernos, los científicos y los movimientos sociales que tratan de alertar sobre este peligro y que, por supuesto, exigen medidas. Uno de los mayores promotores fue Stephen Hawking para quien «la humanidad está en riesgo y muchos de los peligros los hemos creado nosotros mismos».

No obstante, hoy mi reflexión es para ti: ¿Pones conciencia al uso que haces en tu día a día de la tecnología? ¿Seguro que lo haces? Cuidado, que los peligros están ahí, esperándote silenciosos y, si lo seguimos demorando, pronto podría ser demasiado tarde.