Las aplicaciones creadas con inteligencia artificial pueden provocar la exposición de datos. Lo que antes exigía conocimientos avanzados de programación y semanas de trabajo ahora puede resolverse en cuestión de horas. Basta con describir qué queremos conseguir para que una herramienta genere buena parte del código necesario.
Según un estudio sobre el sector, el 84% de los desarrolladores ya utilizaba o tenía previsto incorporar herramientas de IA a su actividad.
Una tendencia que acelera la creación de software, pero que también puede multiplicar los errores cuando no existen controles adecuados.
Una aplicación puede funcionar perfectamente y no ser segura
Que una aplicación tenga un diseño atractivo, responda rápidamente y permita realizar todas sus funciones no significa que proteja correctamente los datos.
La compañía de ciberseguridad ESET advierte de que las herramientas de programación mediante IA pueden generar código con vulnerabilidades que pasan inadvertidas, especialmente cuando quienes las utilizan carecen de experiencia técnica.
El problema no reside solo en usar inteligencia artificial, sino en publicar programas sin comprobar cómo gestionan la información o quién puede acceder a ella.
Entre los fallos más preocupantes se encuentran las claves API expuestas, que pueden permitir conexiones no autorizadas con servicios externos.
También destacan los sistemas de autenticación deficientes, capaces de facilitar que una persona consulte información perteneciente a otros usuarios.
A ello se suman configuraciones que dejan bases de datos accesibles públicamente, almacenamiento sin suficiente protección y ausencia de mecanismos para frenar intentos automatizados de acceso.
Una app desarrollada con IA llegó a presentar 16 vulnerabilidades
Un investigador de seguridad identificó 16 vulnerabilidades en una aplicación alojada en Lovable, plataforma que permite desarrollar software mediante instrucciones dirigidas a sistemas de inteligencia artificial.
De esos problemas, seis fueron clasificados como críticos, incluyendo deficiencias que podían comprometer información sensible.
La aplicación había acumulado más de 100.000 visualizaciones, una cifra que demuestra cómo un proyecto puede alcanzar una difusión considerable antes de que se detecten sus debilidades.
Posteriormente, la compañía comunicó que los fallos habían sido corregidos.
La inyección de prompts añade otro riesgo para los usuarios
Las aplicaciones que incorporan asistentes de inteligencia artificial pueden presentar amenazas adicionales.
Una de ellas es la denominada inyección de prompts, mediante la cual un atacante introduce instrucciones manipuladas para intentar modificar el comportamiento del sistema.
Por ejemplo, una aplicación que utiliza IA para gestionar correos electrónicos podría recibir instrucciones maliciosas ocultas en un mensaje y procesarlas incorrectamente.
El peligro aumenta cuando el asistente tiene permisos para consultar documentos privados, acceder a cuentas personales, enviar comunicaciones o ejecutar operaciones.
También pueden existir problemas cuando una aplicación no comprueba adecuadamente los datos introducidos por los usuarios, facilitando ataques contra sus sistemas internos.
Cinco comprobaciones antes de instalar una aplicación
ESET recomienda revisar varios aspectos antes de descargar una herramienta desconocida, especialmente si solicita información personal.
1. Identificar al desarrollador. Es importante comprobar quién está detrás del programa, su trayectoria, las opiniones disponibles y si ofrece información de contacto verificable.
2. Revisar los permisos. Una aplicación de calculadora, por ejemplo, no debería necesitar acceso permanente a los contactos, la cámara o la ubicación para realizar operaciones matemáticas.
3. Consultar la política de privacidad. Debe explicar qué datos recopila, dónde se almacenan, durante cuánto tiempo se conservan y si se comparten con terceros.
4. Comprobar las medidas de protección. Conviene buscar información sobre actualizaciones, mecanismos de seguridad y procedimientos para comunicar vulnerabilidades.
5. Examinar las funciones de IA. Si incorpora inteligencia artificial, resulta fundamental conocer qué información puede consultar y qué acciones está autorizada a ejecutar.
Qué hacer si has utilizado una aplicación comprometida
Cuando se descubre una brecha de seguridad, la primera medida consiste en cambiar la contraseña afectada. Si esa misma clave se utiliza en otros servicios, también debe modificarse.
Activar la autenticación multifactor añade una protección adicional frente a posibles accesos no autorizados.
Asimismo, conviene revisar los permisos concedidos mediante servicios como Google o Apple y retirar aquellos que ya no sean necesarios.
Eliminar una aplicación del dispositivo no implica que desaparezcan los datos almacenados en sus servidores.
Por eso, cuando exista esa posibilidad, es recomendable solicitar también la supresión de la cuenta y de la información asociada.
Acerca del autor
