La IA generativa se nutre de la explotación de las suposiciones reflexivas de autenticidad de las personas mediante la producción de mater...
 |
| La IA generativa se nutre de la explotación de las suposiciones reflexivas de autenticidad de las personas mediante la producción de material que parece "real". Getty Images |
01 mayo 2023.- Resulta que las estrellas del pop Drake y The Weeknd no lanzaron de repente una nueva canción que se volvió viral en TikTok y YouTube en abril de 2023. La fotografía que ganó un concurso internacional de fotografía ese mismo mes no era una fotografía real . ¿Y la imagen del Papa Francisco luciendo una chaqueta Balenciaga que apareció en marzo de 2023? Eso también fue falso.
Todos se hicieron con la ayuda de IA generativa, la nueva tecnología que puede generar texto, audio e imágenes similares a los humanos bajo demanda a través de programas como ChatGPT, Midjourney y Bard, entre otros.
Ciertamente, hay algo inquietante en la facilidad con la que estas falsificaciones pueden engañar a las personas, y lo veo como un presagio de una crisis de autenticidad que plantea algunas preguntas difíciles.
¿Cómo sabrán los votantes si un video de un candidato político diciendo algo ofensivo fue real o generado por IA? ¿Estará la gente dispuesta a pagar a los artistas por su trabajo cuando la IA pueda crear algo visualmente impactante? ¿Por qué seguir a ciertos autores cuando las historias en su estilo de escritura circularán libremente en Internet?
Dado que el texto, la imagen, el audio y el video se vuelven más fáciles de producir para cualquier persona a través de las nuevas herramientas generativas de inteligencia artificial, creo que las personas necesitarán reexaminar y recalibrar cómo se juzga la autenticidad en primer lugar.
Afortunadamente, las ciencias sociales ofrecen alguna orientación.
Las múltiples caras de la autenticidad
Mucho antes de que la IA generativa y ChatGPT pasaran a primer plano, la gente había estado investigando qué hace que algo se sienta auténtico.
Cuando un agente de bienes raíces está entusiasmado con una propiedad que está tratando de venderle, ¿está siendo auténtico o simplemente está tratando de cerrar el trato? ¿Ese conocido con estilo está usando ropa auténtica de diseñador o una imitación producida en masa ? A medida que maduras, ¿cómo descubres tu auténtico yo ?
Estos no son sólo ejercicios filosóficos. La investigación de la neurociencia ha demostrado que creer que una obra de arte es auténtica activará los centros de recompensa del cerebro de una manera que no sucederá al ver algo que le han dicho que es una falsificación.
La autenticidad también importa porque es un pegamento social que refuerza la confianza. Tomemos como ejemplo la crisis de la desinformación en las redes sociales, en la que se han difundido inadvertidamente noticias falsas y las noticias auténticas se han declarado falsas.
En resumen, la autenticidad importa, tanto para los individuos como para la sociedad en su conjunto. Pero, ¿qué es lo que realmente hace que algo se sienta auténtico?
El psicólogo George Newman ha explorado esta cuestión en una serie de estudios . Encontró que hay tres dimensiones principales de la autenticidad.
Uno de ellos es la autenticidad histórica, o si un objeto es verdaderamente de la época, el lugar y la persona que alguien dice que es. Una pintura real hecha por Rembrandt tendría autenticidad histórica; una falsificación moderna no lo haría.
Una segunda dimensión de la autenticidad es la que surge cuando, por ejemplo, un restaurante en Japón ofrece una pizza napolitana excepcional y auténtica. Su pizza no se hizo en Nápoles ni se importó de Italia. Puede que el chef que lo preparó no tenga ni una gota de sangre italiana en las venas. Pero los ingredientes, la apariencia y el sabor pueden coincidir muy bien con lo que los turistas esperarían encontrar en un excelente restaurante en Nápoles. Newman llama a eso autenticidad categórica.
Y finalmente, está la autenticidad que proviene de nuestros valores y creencias. Este es el tipo que muchos votantes encuentran deficiente en los políticos y líderes electos que dicen una cosa pero hacen otra. Es lo que buscan los oficiales de admisiones en los ensayos universitarios.
También se ha visto que la autenticidad puede relacionarse con nuestras expectativas sobre qué herramientas y actividades están involucradas en la creación de cosas.
Por ejemplo, cuando ve un mueble personalizado que dice estar hecho a mano, probablemente suponga que no fue hecho literalmente a mano, sino que se usaron todo tipo de herramientas modernas para cortar, dar forma y unir cada pieza. Del mismo modo, si un arquitecto utiliza un software de computadora para ayudar a elaborar los planos de construcción, es probable que aún piense en el producto como legítimo y original. Esto se debe a que existe un entendimiento general de que esas herramientas son parte de lo que se necesita para fabricar esos productos.
En la mayoría de los rápidos juicios de autenticidad, no se piensa mucho en estas dimensiones. Pero con la IA generativa, tendrás que hacerlo.
Eso se debe a que, cuando tomaba mucho tiempo producir contenido nuevo original, se suponía que se requería habilidad para crearlo, que solo podía haber sido creado por personas capacitadas que pusieran mucho esfuerzo y actuaran con lo mejor de intenciones
Estas ya no son suposiciones seguras.
Cómo lidiar con la crisis de autenticidad que se avecina
La IA generativa se nutre de la explotación de la confianza de las personas en la autenticidad categórica mediante la producción de material que parece "real".
Así que será importante desenredar la autenticidad histórica y categórica en su propio pensamiento. El hecho de que una grabación suene exactamente como Drake, es decir, se ajusta a las expectativas de categoría para la música de Drake, no significa que Drake realmente la haya grabado. El gran ensayo que se entregó para una tarea de clase de escritura de la universidad puede que en realidad no sea de un estudiante que trabaja durante horas para redactar oraciones en un procesador de textos.
Si parece un pato, camina como un pato y grazna como un pato, todos deberán considerar que es posible que en realidad no haya nacido de un huevo.
Además, será importante que todos se pongan al día sobre lo que estas nuevas herramientas de IA generativa realmente pueden y no pueden hacer. Creo que esto implicará garantizar que las personas aprendan sobre la IA en las escuelas y en el lugar de trabajo, y tener conversaciones abiertas sobre cómo cambiarán los procesos creativos con la IA ampliamente disponible.
Escribir trabajos para la escuela en el futuro no significará necesariamente que los estudiantes tengan que formar meticulosamente todas y cada una de las oraciones; ahora hay herramientas que pueden ayudarlos a pensar en formas de expresar sus ideas. Y crear una imagen increíble no requerirá una coordinación ojo-mano excepcional ni un dominio de Adobe Photoshop y Adobe Illustrator.
Finalmente, en un mundo donde la IA opera como una herramienta, la sociedad tendrá que considerar cómo establecer barandillas. Estas podrían tomar la forma de regulaciones, o la creación de normas dentro de ciertos campos para revelar cómo y cuándo se ha utilizado la IA.
¿Se acredita la IA como coautor en la escritura? ¿Está prohibido en ciertos tipos de documentos o para ciertos niveles de grado en la escuela? ¿La participación de una obra de arte en un concurso requiere una declaración firmada de que el artista no usó IA para crear su presentación? ¿O es necesario que haya competencias nuevas y separadas que inviten expresamente al trabajo generado por IA?
Estas preguntas son engañosas. Puede ser tentador considerar simplemente que la IA generativa es una ayuda inaceptable, de la misma manera que las calculadoras están prohibidas en algunas clases de matemáticas.
Sin embargo, secuestrar nuevas tecnologías corre el riesgo de imponer límites arbitrarios al potencial creativo humano. ¿Sería el poder expresivo de las imágenes lo que es ahora si la fotografía hubiera sido considerada un uso desleal de la tecnología ? ¿Qué pasaría si las películas de Pixar no fueran elegibles para los Premios de la Academia porque la gente pensó que las herramientas de animación por computadora socavaban su autenticidad?
Las capacidades de la IA generativa han sorprendido a muchos y desafiarán a todos a pensar de manera diferente. Pero los humanos usarán la IA para expandir los límites de lo que es posible y crear obras de arte, escritura y diseño interesantes, valiosas y, sí, auténticas, aunque, tal vez, bajo otros estándares diferentes a los actuales.
