En el mundo actual, las herramientas de inteligencia artificial están revolucionando múltiples sectores, y Whisper, desarrollado por OpenAI, se ha convertido en un recurso destacado para la transcripción de audio en diversas aplicaciones. Sin embargo, su funcionamiento ha sido objeto de controversia debido a la aparición de “alucinaciones” en sus transcripciones, lo que plantea serias preocupaciones sobre su confiabilidad y seguridad.
¿Qué es Whisper y cómo funciona?
Whisper es un sistema de reconocimiento automático de voz que permite la transcripción de audio en múltiples idiomas, así como su traducción al inglés. Utiliza una arquitectura de codificación y decodificación que procesa el audio en fragmentos de 30 segundos, convirtiéndolo en un espectrograma para facilitar su interpretación. Este enfoque permite que Whisper identifique el idioma y el habla en el audio para generar una transcripción escrita.
La tecnología ha sido adoptada en diversos ámbitos, incluyendo entornos hospitalarios, donde se utiliza para documentar consultas médicas y tratamientos. También es una herramienta valiosa para personas con discapacidad auditiva, ayudándoles a acceder a información de manera más efectiva.
Las “Alucinaciones” de Whisper
A pesar de sus ventajas, Whisper ha sido criticada por su tendencia a generar transcripciones inexactas e inventadas, un fenómeno conocido como “alucinaciones”. Ingenieros de software e investigadores han informado que esta IA no solo transcribe erróneamente, sino que también introduce frases o fragmentos que nunca fueron pronunciados. Un informe de Los Angeles Times revela que, en pruebas realizadas, un investigador de la Universidad de Michigan identificó alucinaciones en el 80% de las transcripciones, mientras que otro ingeniero reportó errores en el 50% de las pruebas realizadas. 
Los ejemplos de estas alucinaciones son alarmantes. En algunos casos, Whisper ha transcrito declaraciones racistas, como “niñas y una dama que eran negras” cuando en realidad el audio solo mencionaba “dos niñas y una dama”. En otros, generó afirmaciones violentas, como que un niño tenía “un cuchillo terrorista”, cuando en realidad se refería a un paraguas. Más preocupante aún, en entornos médicos, la IA ha sido capaz de inventar tratamientos que nunca fueron prescritos.
Implicaciones de los errores de Whisper
Los errores en las transcripciones de Whisper pueden tener consecuencias graves, especialmente en el ámbito de la salud. Los diagnósticos erróneos o las transcripciones de tratamientos equivocados podrían resultar en riesgos significativos para los pacientes. De igual forma, el uso de esta herramienta por personas con problemas auditivos puede llevar a malentendidos críticos si se presentan alucinaciones en transcripciones importantes.
La combinación de confianza en la tecnología y la posibilidad de errores en la información esencial genera un entorno potencialmente peligroso, destacando la importancia de validar y verificar la información antes de su uso. William Saunders, un investigador de San Francisco, enfatiza que es problemático ofrecer un producto como Whisper sin garantizar su precisión, dado que las personas pueden integrarlo en sus actividades diarias sin la debida precaución.
La Popularidad de Whisper a Pesar de sus Fallas
A pesar de los riesgos asociados con sus errores, Whisper ha gozado de una notable popularidad, con 4,2 millones de descargas solo en octubre. Esta adopción masiva plantea interrogantes sobre la confianza que los usuarios depositan en la tecnología, así como la responsabilidad de los desarrolladores para abordar y mitigar los problemas existentes.
Respuesta de OpenAI y el Futuro de Whisper
OpenAI, la organización detrás de Whisper, es consciente de las críticas y los desafíos que enfrenta su IA. Han manifestado su intención de trabajar en la mejora de la herramienta para reducir las alucinaciones y aumentar la confiabilidad de sus transcripciones. Sin embargo, el lanzamiento de tecnologías que presentan fallos significativos plantea preocupaciones sobre la preparación de estas herramientas para el uso generalizado.
En resumen, mientras Whisper representa un avance en la transcripción de audio mediante inteligencia artificial, su propensión a “alucinar” y generar información incorrecta plantea serias preocupaciones sobre su uso en entornos críticos. A medida que la tecnología continúa evolucionando, será fundamental que los desarrolladores aborden estas fallas para garantizar un servicio seguro y eficaz para todos los usuarios.
