Midjourney, una empresa dedicada a la generación de imágenes con inteligencia artificial (IA), ha detenido las pruebas gratuitas de su generador de imágenes luego de los casos de imágenes virales del papa que viste a la moda y de Donald Trump siendo detenido. Ambas imágenes fueron creadas a través de Midjourney por usuarios y compartidas ampliamente en internet.
Según el CEO de Midjourney, David Holz, las pruebas gratuitas fueron descontinuadas debido a la “extraordinaria demanda y abuso de las pruebas”. Además, la empresa está teniendo problemas para determinar las políticas de contenido sobre la generación de imágenes de personas reales. La empresa se ha vuelto tan buena generando imágenes que está facilitando la creación de imágenes que, debido a su realismo, podrían fácilmente contribuir a la propagación de información falsa.
Es preocupante que la empresa no tenga claro cómo proceder en este momento. Holz ha mencionado que en el futuro habrá herramientas de moderación que podrán encontrar imágenes generadas que violen las políticas de uso. Sin embargo, queda claro que en este momento, las reglas y la moderación no están funcionando con el máximo nivel de refinamiento.
Midjourney se mantendrá como un servicio de pago para los usuarios que quieran utilizar su generador de imágenes. El precio varía de $10 a $60 dólares. Es importante recordar que la tecnología de IA puede tener consecuencias imprevisibles y es necesario que las empresas y los usuarios tomen medidas para evitar la propagación de información falsa. La regulación y la moderación efectiva son fundamentales para el buen uso de la IA en el futuro.
