Los modelos de IA son cada vez más capaces, pero estas capacidades plantean riesgos en el mundo real, como problemas de salud mental y de seguridad, con el abuso de sus capacidades para personalizar las campañas maliciosas o incluso generar nuevo ‘malware’.
Las capacidades de estos también modelos les permiten detectar vulnerabilidades críticas en los sistemas informáticos, lo que ha llevado a OpenAI, responsable de los modelos GPT y del ‘chatbot’ ChatGPT, a buscar un responsable de Preparación.
Este puesto es “crucial”, como ha expuesto el director ejecutivo de la compañía, Sam Altman, en su cuenta de X, donde ha explicado que “será un trabajo estresante” y quien lo logrará ocupando “estará envuelto en una situación complicada casi de inmediato”.
Ello se debe a que su principal debe ser anticiparse a los peligros que plantea la IA en el mundo real para mitigarlos, tanto biológicos como de ciberseguridad, como se explica en la oferta de empleo.
Para ello, tendrá que “desarrollar y coordinar evaluaciones de capacidades, modelos de amenazas y mitigaciones que conformen un proceso de seguridad coherente, riguroso y escalable operativamente”.
