El despido de Sam Altman —quien ya ha vuelto a la compañía— pudo estar condicionado por una carta que la junta directiva de OpenAI recibió por parte del equipo de investigadores de la compañía. En ella, mostraban su preocupación por una IA que podría ser “una amenaza para la humanidad” y alertaban que el ejecutivo planeaba lanzarla al mercado aun sin evaluar las consecuencias. A esta inteligencia artificial se le conoce como Q* (pronunciado Q-Star) y pese a que no está confirmada por la compañía, ya conocemos algunos posibles detalles al respecto.
Q-Star, en realidad, es el nombre del proyecto destinado al desarrollo de una inteligencia artificial general (AGI, por sus siglas en inglés). Esta, aparentemente, es la que preocupa a los investigadores OpenAI, puesto a que cuenta con muchas más capacidades que una IA generativa y, por tanto, es más potente que GPT-4, el modelo que actualmente alimenta a ChatGPT.
La IA desarrollada bajo el proyecto Q-Star de OpenAI, por ejemplo, puede realizar tareas autónomas lo suficientemente avanzadas como para reemplazar a los humanos en algunos campos. Es capaz, además, de resolver problemas matemáticos, que no es algo que no todas las IA consiguen, pues la mayoría únicamente son buenas en tareas de escritura, generación de contenido y traducción. Pero, ¿por qué preocupa tanto Q*? ¿Puede realmente acabar con la humanidad?
Tabla de contenidos
¿Cómo funciona Q-Star?
Según algunos rumores, Q-Star, de OpenAI, estaría compuesta por una combinación de dos tipos de algoritmos. Uno de ellos, llamado Q-learning, que se encargaría de las tareas de aprendizaje por refuerzo o a través del método de prueba y error. Esta consiste en probar una tarea y verificar si funciona; si no es el caso, se vuelve a intentar con otra alternativa hasta que funcione. El segundo algoritmo, bautizado como A*, se encargaría de mejorar la eficiencia a la hora de buscar una solución al problema que se le plantea anticipando posibles obstáculos.
Esta combinación se habría utilizado para alimentar a otros modelos de inteligencia artificial, como AlphaGo, que llegó a ganar una partida del juego de mesa Go con uno de los mejores jugadores del mundo como contrincante.
¿Qué hace Q-Star que otras IA de OpenAI no pueden hacer?
Por el momento, lo que sabemos sobre Q-Star, de OpenAI, es que la IA que se está desarrollando es considerablemente más inteligente que GPT-4 por el simple hecho de poder solucionar problemas matemáticos.
Lo hace, eso sí, a un nivel de estudiante de escuela de primaria, pero es un avance considerable teniendo en cuenta que, a diferencia de las respuestas sobre información o cualquier otra consulta, las ecuaciones matemáticas solo tienen una solución correcta. Esto quiere decir que la IA se estaría posicionando al mismo nivel de inteligencia que el de un humano.
¿Es realmente una amenaza para la humanidad?
Las capacidades de la IA desarrollada bajo el proyecto Q-Star de OpenAI, además, pueden ir mucho más allá. Esto es, precisamente, lo que ha preocupado a los investigadores de OpenAI. En la carta, vista por Reuters, se preguntan si estos modelos podrían ser lo suficientemente avanzados como para decidir que la destrucción de la humanidad les conviene.
No es la primera vez que se cuestionan las capacidades de una IA. Hace unos meses, un ingeniero de Google afirmó que un modelo en el que estaba trabajando se había vuelto sensible. El ingeniero, incluso, llegó a decir que la IA fue capaz de pedir un abogado para que la representara.
¿Cuándo estará disponible Q-Star?
Al parecer, Sam Altman quería lanzar Q-Star al mercado sin evaluar antes las consecuencias que podría tener para la humanidad, pero los acontecimientos ocurridos en OpenAI durante las últimas semanas podrían haber detenido la intención del ejecutivo. No está claro, por tanto, cuándo estará disponible Q-Star y si, por ejemplo, llegará al mercado con menos capacidades de las que puede ofrecer.
OpenAI, eso sí, podría aprovechar sus hallazgos sobre esta IA general para mejorar sus otros modelos de IA y hacer que, por ejemplo, GPT-4 sea capaz de razonar mejor o realizar respuestas más específicas.
