Google anunció que comenzará a exigir que las aplicaciones de inteligencia artificial generativa en Android incluyan un modo para reportar contenido ofensivo. La tecnológica actualizó sus reglas con el fin de que se adhieran a la política de contenido generado por IA de Google Play. Debido a esto, los desarrolladores deberán colocar un botón para denunciar el material ofensivo.
En una entrada publicada en el blog de desarrolladores de Android, Google declaró que sus nuevas políticas buscan garantizar que el contenido sea seguro para las personas. Con la explosión en popularidad de ChatGPT, muchas empresas han comenzado a implementar inteligencia artificial en sus aplicaciones. Si bien algunas lo hacen para subirse al tren y hacerse un hueco en el mercado, lo cierto es que otras tienen planes a largo plazo.
La nueva regla exigirá que las aplicaciones informen o marquen contenido ofensivo generado por IA. Los usuarios tendrán a la mano un botón o formulario para hacer reportes sin salir de la app. Google dijo que los desarrolladores deberán usar estos datos para informar sobre el filtrado y la moderación de contenido que realizan en sus aplicaciones.
El contenido generado por IA es contenido creado por modelos de IA generativa a partir de peticiones de los usuarios. A continuación se indican algunos ejemplos de contenido generado por IA:
- Bots de chat conversacionales de texto a texto de IA generativa, en los que la interacción con el bot de chat es una función principal de la aplicación
- Imágenes generadas por IA a partir de peticiones de texto, imagen o voz
Para garantizar la seguridad de los usuarios y de acuerdo con la cobertura de la política de Google Play, las aplicaciones que generen contenido utilizando IA deben cumplir las políticas para desarrolladores de Google Play.
¿Qué se considera ofensivo? De acuerdo con la web de ayuda de Play Console, aquel que pueda facilitar la explotación o abuso infantil, que engañe a los usuarios, o que facilite conductas fraudulentas, está prohibido. No estarán permitidas las apps de IA que produzcan material sexual no consentido (deepfake), grabaciones de voz o video de personas reales para facilitar estafas, o documentos oficiales para cometer fraude, entre otros.
Google anticipa que veremos más aplicaciones de IA generativa
Google mencionó que, a medida que los modelos de IA generativa estén más disponibles, es posible que los desarrolladores los integren en sus aplicaciones. Este año hemos visto un avance considerable en la inteligencia artificial que impulsa aplicaciones como ChatGPT, Dall-E, Midjourney o la suite de Adobe. Compañías como OpenAI, Microsoft o la misma Google refinan sus modelos para volverlos más avanzados.
Pero como el Tío Ben decía, un gran poder conlleva una gran responsabilidad, por lo que es necesario implementar mecanismos para evitar un mal uso de esta tecnología. Google menciona que el éxito a largo plazo de una aplicación o juego, en términos de instalaciones y calificación de los usuarios, está relacionado con la seguridad.
“La comunidad de Android espera experiencias seguras y de alta calidad”, mencionó Karina Newton, directora de Política Global de Productos y Políticas para Desarrolladores. “El diseño de una aplicación, las protecciones de privacidad, la calidad de la información y los estándares de seguridad desempeñan un papel importante”.
Otros ajustes de seguridad que llegarán a Android 14
Sumado a las nuevas políticas para la IA generativa, Google establecerá límites más estrictos en torno a las notificaciones a pantalla completa. Las aplicaciones para Android 14 y superior no recibirán permiso de usar esta notificación de forma predeterminada, a menos que su funcionalidad principal lo requiera. En este caso, deberán contar con el consentimiento del usuario para utilizar el permiso.
Otro ajuste relevante tiene que ver con el modo en que las aplicaciones de Android acceden a tus fotos y videos. Bajo la nueva política, solo podrán emplearlo para fines directamente relacionados con la funcionalidad de la aplicación. Eso significa que no veremos más aplicaciones de alarma, VPN o préstamos en línea que requieren una autorización para mirar tus fotos.
