La alerta internacional responde al aumento de casos de uso indebido de inteligencia artificial (IA) y plataformas digitales para generar y divulgar en redes sociales imágenes íntimas no consentidas, algunas con contenido sexual, difamatorias o potencialmente dañinas, creadas a partir de datos de personas identificables. 

El comunicado conjunto​, liderado por la SIC lideró dentro del Grupo de Trabajo de Cooperación Internacional, reúne la posición y preocupación de múltiples autoridades de datos personales del mundo.

Allí se enfatiza que los sistemas de IA generativa deben desarrollarse y utilizarse conforme con los marcos legales aplicables, incluyendo las normas de protección de datos y privacidad, pues la generación de imágenes íntimas no consentidas puede constituir un delito en muchas jurisdicciones. 

El documento plantea algunas recomendaciones dirigidas a las organizaciones que utilizan IA generativa, entre ellas:

Prevenir el uso indebido de información personal y la generación de contenido íntimo no consentido.

Garantizar transparencia significativa respecto a las capacidades, salvaguardas y usos permitidos de los sistemas de IA.

Eliminar contenido dañino que involucre datos personales.

Implementar salvaguardas reforzadas para la protección de niñas y niños.

Los países firmantes del comunicado señalan que los daños asociados al uso abusivo de este tipo de tecnología “son significativos y requieren coordinación regulatoria internacional”, por ello sus autoridades de protección de datos avanzan en acciones conjuntas para abordar este riesgo global mediante acciones educativas, de seguimiento y de política pública.

En Colombia, el llamado de la SIC a las organizaciones desarrolladoras y usuarias de IA generativa es a implementar estándares altos de seguridad y cumplimiento normativo para proteger la privacidad, dignidad y seguridad de las personas.

La entrada Alerta mundial por mal uso de la IA se publicó primero en El Pregonero del Darién.