Apple Intelligence tomó al mundo por sorpresa luego de una impresionante presentación en WWDC 2024. La inteligencia artificial de Apple llegará a sus dispositivos más populares para potenciar un cúmulo de nuevas funciones y mejorar otras existentes. Ante ello, muchos se preguntan si ocurrirán incidentes similares a los que vimos en ChatGPT o Gemini, donde la IA perdía el control luego de un tiempo.
Tim Cook, director ejecutivo de Apple, declaró que esto podría ocurrir. En una entrevista con el diario The Washington Post, el jefe de Apple declaró que Apple Intelligence podría alucinar, aunque ya tomaron medidas. Cook piensa que su inteligencia artificial será confiable, aunque dejó claro que los errores pueden ocurrir.
"No es 100 % [libre de alucinaciones], pero creo que hemos hecho todo lo que sabemos hacer. Incluso pensar muy profundamente sobre la disponibilidad de la tecnología en las áreas en las que la estamos utilizando", dijo Cook, "Estoy seguro de que será de muy alta calidad. Pero yo diría con toda honestidad que eso está por debajo del 100 %. Nunca diría que es 100 %".
Las alucinaciones son un fenómeno que ocurre en los modelos de lenguaje grande (LLM) en donde la IA produce un resultado que no tiene sentido. Esto puede deberse a la complejidad del modelo o cuando existe un sesgo o inexactitud en los datos de entrenamiento. También se presenta cuando el algoritmo se ajusta demasiado a sus datos de entrenamiento y no permite que el modelo realice predicciones a partir de otro datos.
El caso más evidente fue el de Bing — potenciado por ChatGPT— quien "perdió la cabeza" a los pocos días de su lanzamiento. La IA ofrecía respuestas erróneas o amenazantes cuando los chats se prolongaban demasiado.
Apple ha puesto salvaguardas en Apple Intelligence
Una de las características esenciales de Apple Intelligence es que está construida para ser personal y privada. Tim Cook mencionó en WWDC que una parte importante del procesamiento de su IA ocurre en el dispositivo, mientras que las tareas que se ejecutan en la nube se protegen a través del sistema Private Cloud Compute. Esta última procesa las peticiones sin almacenar datos personales.
Ante los riesgos que representa la tecnología, Tim Cook se mostró optimista y dijo que le emociona lo que puede lograr la inteligencia artificial. Eso sí, sin dejar de lado las barreras de protección.
"Me entusiasma ayudar a las personas a hacer las cosas más rápido, mejor y con mayor calidad. Y creo que la IA puede hacer eso, siempre que se mantengan las salvaguardas adecuadamente", declaró el jefe de Apple. "Sé que también pueden ocurrir una serie de cosas horribles, por lo que nos comprometemos a ser reflexivos en este espacio."
Apple Intelligence estará disponible en fase beta durante el verano, aunque podría llegar limitado en su fase beta. Un reporte de Macrumors deja entrever que Apple podría activar una lista de espera para acceder a algunas funciones de su inteligencia artificial.