Trabajadores expertos en IA alertan sobre sus limitaciones y desaconsejan su uso personal

Una serie de trabajadores que participan en la evaluación y moderación de sistemas de inteligencia artificial (IA) generativa, como Amazon Mechanical Turk y modelos de Google, anuncian públicamente su desconfianza hacia estas tecnologías. Han observado errores significativos y sesgos en las respuestas de la IA, especialmente en temas sensibles como el racismo o la salud, y alertan sobre la falta de formación, instrucciones vagas y presiones por rapidez que afectan la calidad del entrenamiento. Muchos de estos evaluadores aconsejan a sus allegados no usar IA generativa para evitar riesgos de desinformación y errores potencialmente dañinos. Además, critican que las empresas priorizan el lanzamiento rápido y el beneficio económico sobre la seguridad y ética. Un evaluador señala que ciertos temas, como la historia de Israel y Palestina, reciben un tratamiento desigual en las respuestas de la IA. Los expertos comparan la ética de la IA con la industria textil, subrayando la necesidad de transparencia sobre el origen de los datos y el trato justo a los trabajadores que entrenan estos modelos. En resumen, estos trabajadores toman conciencia y promueven un uso responsable y crítico de la IA, destacando su fragilidad y sus potenciales impactos éticos y ambientales.