Peligros ocultos de la IA generativa: estafas y falsificaciones
Como sucede con cada avance tecnológico, las herramientas de inteligencia artificial generativa como ChatGPT de OpenAI o el generador de imágenes Midjourney se utilizan tanto para la productividad como para las estafas y abusos. Entre esta nueva oleada de contenidos maliciosos destacan especialmente los deepfakes. Estas piezas de contenido audiovisual generadas artificialmente incluyen estafas a votantes mediante la suplantación de identidad de políticos o la creación de imágenes pornográficas no consentidas de famosos. Como muestra una reciente encuesta de Microsoft, las falsificaciones, las estafas y los abusos relacionados con la inteligencia artificial (IA) son lo que más preocupa a los usuarios de internet de todo el mundo.
Encuesta de Microsoft sobre preocupaciones
El 71 % de los encuestados por Microsoft en 17 países entre julio y agosto de 2023 estaban muy o algo preocupados por las estafas asistidas por IA. Si bien el estudio no aclara en qué consisten estas estafas, lo más probable es que estén relacionadas con la suplantación de la identidad de una persona de relevancia pública, un político o un familiar de los encuestados. Empatados en segundo lugar están los deepfakes y el abuso sexual u online, con el 69 %. Las alucinaciones de la IA, que se definen como respuestas sin sentido, ocupan el cuarto lugar, mientras que las preocupaciones por la privacidad de los datos ocupan el quinto lugar, con el 62%. En general, el 87% de los encuestados estaban preocupados al menos en cierta medida por un escenario problemático de la IA.
Impacto en la sociedad
El impacto de la inteligencia artificial generativa en la sociedad es profundo y multifacético. Por un lado, estas tecnologías ofrecen herramientas poderosas para mejorar la eficiencia en diversas industrias, desde la automatización de tareas repetitivas hasta la creación de contenido innovador. Por otro lado, su capacidad para generar contenido falso y engañoso plantea riesgos significativos. Las estafas y las falsificaciones pueden minar la confianza en las instituciones y en las interacciones cotidianas, mientras que el abuso de estas tecnologías puede tener consecuencias devastadoras para las víctimas.
Desafíos y soluciones
Para abordar estos desafíos, es crucial que tanto las empresas tecnológicas como los gobiernos y las organizaciones de la sociedad civil trabajen en conjunto. La implementación de regulaciones estrictas y la promoción de prácticas éticas en el desarrollo y uso de la IA son pasos esenciales. Además, es fundamental educar a la población sobre los peligros ocultos de la IA y proporcionar herramientas para identificar y denunciar contenido malicioso.
El avance de la inteligencia artificial generativa representa tanto una oportunidad como un desafío. Mientras que ofrece numerosas ventajas en términos de productividad y creatividad, también plantea riesgos significativos relacionados con las estafas, falsificaciones y abusos. La preocupación generalizada por estos problemas subraya la necesidad de un enfoque equilibrado que maximice los beneficios de la tecnología mientras minimiza sus peligros.
🚀 Si buscas mantenerte al día con las noticias nacionales e internacionales más relevantes 🌐
