La IA establece límites a las aspiraciones humanas
24 enero 2024.- Estamos viendo cómo se redefine la “inteligencia” como las tareas que puede realizar una inteligencia artificial. Una y otra vez, la IA generativa se enfrenta a sus homólogos humanos, con resultados textuales y visuales medidos en función de las habilidades, estándares y ejemplos humanos.
Se pide a la IA que imite, y luego mejore, el desempeño humano en las pruebas de derecho y de admisión a las escuelas de posgrado, los exámenes de colocación avanzada y más, incluso cuando esas pruebas se están abandonando porque perpetúan la desigualdad y son inadecuadas para la tarea de medir verdaderamente la capacidad humana.
Las narrativas que pregonan el progreso de la IA oscurecen una lógica subyacente que requiere que todo se traduzca en los términos de la tecnología. Si no se aborda, esa lógica hegemónica seguirá estrechando puntos de vista, obstaculizando las aspiraciones humanas y excluyendo futuros posibles al condenarnos a repetir errores del pasado, en lugar de aprender de ellos.
El problema tiene raíces profundas. A medida que la IA evolucionó en las décadas de 1950 y 1960, los investigadores a menudo hicieron comparaciones con humanos. Algunos sugirieron que las computadoras se convertirían en “mentores” y “colegas”, otros en “asistentes”, “sirvientes” o “esclavos”.
Como han demostrado los académicos de ciencia y tecnología Neda Atanasoski, Kalindi Vora y Ron Eglash , estas comparaciones moldearon el valor percibido no solo de la IA, sino también del trabajo humano. Quienes relegaban la IA a estas últimas categorías generalmente lo hacían porque creían que las computadoras se limitarían a trabajos serviles, repetitivos y sin sentido.
También estaban reproduciendo la ficción de que los asistentes humanos son meramente mecánicos, serviles y estúpidos. Por otro lado, quienes celebraban a los mentores y colegas potenciales asumían tácitamente que a las contrapartes humanas se les podría despojar de todo más allá del razonamiento eficiente.
La descripción de la historia de la IA suele ser de progreso, donde constelaciones de algoritmos alcanzan inteligencia y creatividad generales similares a las humanas. Pero esa narrativa podría invertirse con mayor precisión con una definición cada vez más reducida de inteligencia que excluya muchas capacidades humanas.
Las comparaciones entre la IA y el desempeño humano a menudo se correlacionan con la jerarquía social. Como han demostrado las académicas en sociedad y tecnología Janet Abbate , Mar Hicks y Alison Adam , en las décadas de 1960 y 1970, se alentó a las mujeres y a las minorías a avanzar en la sociedad aprendiendo a codificar, pero esas habilidades fueron luego devaluadas, mientras que los dominios dominados por los hombres blancos eran vistos como el reino de los verdaderamente capacitados técnicamente.
Las medidas OpenAI más recientes de la IA frente a los exámenes estandarizados respaldan una comprensión positivista, conflictiva y burocrática de la inteligencia y el potencial humanos. De manera similar, las “entrevistas de casos” y las obras de arte generadas por IA codifican el mimetismo como la definición de inteligencia.
Para que un resultado de la IA generativa sea validado como verdadero (o que sorprenda a otros como “verdadero”) tiene que ser plausible, es decir, reconocible en términos de valores o experiencias pasadas. Pero mirar hacia atrás y eliminar los valores atípicos excluye los ricos manantiales de la imaginación de la humanidad para el futuro.
En última instancia, estas prácticas afectarán a quién y qué se percibe como inteligente, y eso cambiará profundamente la sociedad, el discurso, la política y el poder. Por ejemplo, en la “ética de la IA”, conceptos complejos como “justicia” e “igualdad” se reconfiguran como restricciones matemáticas a las predicciones, colapsadas en la lógica subyacente del aprendizaje automático. En otro ejemplo, el desarrollo de sistemas de aprendizaje automático para juegos ha llevado a una redefinición reductiva de “juego” como simplemente realizar movimientos permisibles en busca de la victoria. Cualquiera que haya jugado go, ajedrez o póquer contra otra persona sabe que, para los humanos, “jugar” incluye mucho más.
La descripción de la historia de la IA suele ser de progreso, donde constelaciones de algoritmos alcanzan inteligencia y creatividad generales similares a las humanas. Pero esa narrativa podría invertirse con mayor precisión con una definición cada vez más reducida de inteligencia que excluya muchas capacidades humanas.
Esto reduce el horizonte de la inteligencia a tareas que pueden lograrse mediante el reconocimiento de patrones, la predicción a partir de datos y similares. Tememos que esto pueda establecer límites a las aspiraciones humanas y a ideales fundamentales como el conocimiento, la creatividad, la imaginación y la democracia, generando un futuro humano más pobre y más limitado.
COMENTARIOS