OpenAI Advierte: Avance en IA que podría amenazar a la humanidad, según Reuters

El mundo de la inteligencia artificial (IA) se sacude con la noticia de un presunto avance de OpenAI que podría representar una amenaza para la humanidad. Según informa Reuters, un grupo de investigadores de la empresa envió una carta a la junta directiva alertando sobre el descubrimiento de un proyecto de IA llamado Q*, capaz de igualar la capacidad humana de aprender y resolver problemas.

Antes del breve exilio del CEO de OpenAI, Sam Altman, los investigadores comunicaron a la junta directiva su preocupación sobre Q*, un proyecto que algunos consideran un gran avance hacia la superinteligencia, también conocida como inteligencia artificial general (IAG). La carta y el algoritmo mencionado fueron factores clave que llevaron al despido de Altman y generaron tensiones dentro de la empresa.

Q*, pronunciado Q-Star, se presenta como un proyecto avanzado capaz de resolver problemas matemáticos, marcando un hito en el desarrollo de la IA. Aunque se afirma que el modelo solo resuelve operaciones matemáticas básicas, los investigadores están optimistas sobre su potencial para alcanzar la superinteligencia.

La carta de los investigadores destacó las proezas y posibles riesgos asociados con Q*, aunque Reuters no proporcionó detalles específicos sobre los problemas de seguridad señalados. La comunidad informática ha debatido durante mucho tiempo sobre los peligros potenciales de las máquinas superinteligentes y la posibilidad de que tomen decisiones que amenacen a la humanidad.

El regreso de Sam Altman a OpenAI se produce después de que más de 700 empleados amenazaran con renunciar en solidaridad con él. Altman lideró los esfuerzos para hacer de ChatGPT una de las aplicaciones de software de más rápido crecimiento, atrayendo inversiones significativas de Microsoft para acercarse a la superinteligencia.

Aunque la empresa no ha confirmado oficialmente los detalles del proyecto Q*, la noticia destaca la creciente importancia de la ética y seguridad en el desarrollo de la inteligencia artificial, planteando preguntas cruciales sobre el camino a seguir en este fascinante pero complejo campo tecnológico.