Lo que significa el drama de OpenAI para el progreso y la seguridad de la IA
 |
| OpenAI despidió a su carismático director ejecutivo, Sam Altman, el 17 de noviembre, pero ahora lo ha reintegrado. Imagen: Justin Sullivan/Getty |
Una debacle en la empresa que construyó ChatGPT pone de relieve la preocupación de que fuerzas comerciales estén actuando contra el desarrollo responsable de sistemas de inteligencia artificial.
23 noviembre 2023.- OpenAI, la compañía detrás del exitoso robot de inteligencia artificial (IA) ChatGPT, ha estado consumida por cambios frenéticos durante casi una semana. El 17 de noviembre, la empresa despidió a su carismático director ejecutivo, Sam Altman. Cinco días y mucho drama después, OpenAI anunció que Altman regresaría con una revisión de la dirección de la compañía.
La debacle ha puesto de relieve un debate en curso sobre cómo la competencia comercial está dando forma al desarrollo de los sistemas de IA y con qué rapidez se puede implementar la IA de manera ética y segura.
Altman, un inversor y emprendedor de éxito, fue cofundador de OpenAI y su imagen pública. Había sido director ejecutivo desde 2019 y supervisó una inversión de unos 13.000 millones de dólares de Microsoft. Después del derrocamiento inicial de Altman , Microsoft, que utiliza la tecnología OpenAI para impulsar su motor de búsqueda Bing, le ofreció a Altman un trabajo para liderar un nuevo equipo de investigación avanzada de IA. El regreso de Altman a OpenAI se produjo después de que cientos de empleados de la empresa firmaran una carta amenazando con seguir a Altman a Microsoft a menos que fuera reintegrado.
La junta de OpenAI que despidió a Altman la semana pasada no dio razones detalladas para la decisión, diciendo al principio que fue despedido porque "no fue consistentemente sincero en sus comunicaciones con la junta" y luego agregó que la decisión no tenía nada que ver con " malversación o cualquier cosa relacionada con nuestra práctica financiera, comercial, de seguridad o de privacidad”.
Pero algunos especulan que el despido podría tener su origen en un cisma en OpenAI entre quienes se centran en el crecimiento comercial y quienes se sienten incómodos con la tensión del rápido desarrollo y sus posibles impactos en la misión de la compañía "de garantizar que la inteligencia artificial general beneficie a toda la humanidad".
Cambiando la cultura del modelo original
OpenAI, con sede en San Francisco, California, se fundó en 2015 como una organización sin fines de lucro. En 2019, pasó a un modelo inusual de ganancias limitadas, con una junta que explícitamente no rinde cuentas ante los accionistas o inversores, incluido Microsoft. En el trasfondo del despido de Altman “hay muy claramente un conflicto entre las organizaciones sin fines de lucro y las que tienen ganancias limitadas; un conflicto de cultura y objetivos”, ha dicho Jathan Sadowski, científico social de tecnología de la Universidad de Monash en Melbourne, Australia.
Ilya Sutskever, científico jefe de OpenAI y miembro de la junta que despidió a Altman, en julio cambió su enfoque hacia la "superalineación" , un proyecto de cuatro años que intenta garantizar que las futuras superinteligencias funcionen para el bien de la humanidad.
No está claro si Altman y Sutskever están en desacuerdo sobre la velocidad del desarrollo: después de que la junta despidió a Altman, Sutskever expresó su pesar por los impactos de sus acciones y estuvo entre los empleados que firmaron la carta amenazando con irse a menos que Altman regresara.
Con Altman de regreso, OpenAI ha reorganizado su junta directiva: Sutskever y Helen Toner, investigadora en gobernanza y seguridad de la IA en el Centro de Seguridad y Tecnología Emergente de la Universidad de Georgetown en Washington DC, ya no están en la junta. Los nuevos miembros de la junta incluyen a Bret Taylor, quien forma parte de la junta directiva de la plataforma de comercio electrónico Shopify y solía dirigir la empresa de software Salesforce.
Parece probable que OpenAI se aleje aún más de sus orígenes sin fines de lucro, dice Sadowski, y se reestructure como una clásica empresa tecnológica de Silicon Valley con fines de lucro.
La competencia se calienta
OpenAI lanzó ChatGPT hace casi un año, catapultando a la empresa a la fama mundial. El bot se basó en el modelo de lenguaje grande (LLM) GPT-3.5 de la compañía , que utiliza correlaciones estadísticas entre palabras en miles de millones de oraciones de entrenamiento para generar respuestas fluidas a las indicaciones. La amplitud de capacidades que han surgido de esta técnica (incluido lo que algunos ven como razonamiento lógico ) ha asombrado y preocupado tanto a los científicos como al público en general.
OpenAI no es el único que busca grandes modelos de lenguaje, pero el lanzamiento de ChatGPT probablemente impulsó a otros a implementarlo: Google lanzó su chatbot Bard en marzo de 2023, el mismo mes en que se lanzó una versión actualizada de ChatGPT, basada en GPT-4.
Preocupa que los productos estén apareciendo antes de que nadie tenga una comprensión completa de su comportamiento, usos y abusos, y que esto podría ser "perjudicial para la sociedad".
El panorama competitivo para la IA conversacional se está calentando. Google ha insinuado que habrá más productos de IA en el futuro. Amazon tiene su propia oferta de IA, Titan. Las empresas más pequeñas que pretenden competir con ChatGPT incluyen la empresa alemana Aleph Alpha y Anthropic, con sede en EE. UU., fundada en 2021 por ex empleados de OpenAI, que lanzó el chatbot Claude 2.1 el 21 de noviembre. Stability AI y Cohere son otros rivales citados con frecuencia.
Estas empresas emergentes dependen en gran medida de los vastos y costosos recursos informáticos proporcionados por sólo tres empresas (Google, Microsoft y Amazon), creando potencialmente una carrera por el dominio entre estos gigantes controladores.
Preocupaciones de seguridad
El informático Geoffrey Hinton de la Universidad de Toronto en Canadá, pionero del aprendizaje profundo, está profundamente preocupado por la velocidad del desarrollo de la IA. “Si especificas una competición para hacer que un coche vaya lo más rápido posible, lo primero que haces es quitarle los frenos”, afirma.
OpenAI se fundó con el objetivo específico de desarrollar una inteligencia artificial general (AGI), un sistema de aprendizaje profundo que está entrenado no solo para ser bueno en una cosa específica, sino para ser tan inteligente en general como una persona. Aún no está claro si la AGI es posible. Pero algunos empiezan a apostar por ello y los expertos creen que probablemente lo conseguiremos en 5 a 20 años.
Los peligros inminentes de la IA están relacionados con su uso como herramienta por parte de malos actores humanos: personas que la utilizan, por ejemplo, para crear información errónea , cometer estafas o, potencialmente, inventar nuevas armas bioterroristas 1 . Y como los sistemas de IA actuales funcionan encontrando patrones en los datos existentes, también tienden a reforzar los sesgos históricos y las injusticias sociales.
A largo plazo, preocupa que un sistema de IA se convierta en un mal actor, desarrollando suficiente poder para guiar los acontecimientos mundiales en una dirección negativa. Esto podría surgir incluso si se diseñara una AGI (en línea con la misión de "superalineación" de OpenAI) para promover los mejores intereses de la humanidad. Podría decidir, por ejemplo, que el peso del sufrimiento humano es tan enorme que sería mejor para la humanidad morir que enfrentar más miseria. Tales declaraciones suenan a ciencia ficción, pero algunos expertos sostienen que la amenaza existencial de una IA que no se puede apagar y que se desvía hacia un camino destructivo es muy real.
La Cumbre de Seguridad de la IA organizada por el Reino Unido en noviembre fue diseñada para adelantarse a estas preocupaciones . Hasta ahora, unas dos docenas de naciones han acordado trabajar juntas para resolver el problema, aunque aún no está claro qué harán exactamente .
Hay quienes piensan que es importante centrarse en las amenazas ya presentes de la IA antes que en preocupaciones más amplias, y garantizar que las leyes existentes se apliquen a las empresas de tecnología que desarrollan IA.
Los eventos en OpenAI, resaltan cómo unas pocas empresas con el dinero y los recursos informáticos para alimentar la IA ejercen mucho poder, algo que ella cree que necesita un mayor escrutinio por parte de los reguladores antimonopolio. Durante mucho tiempo, los reguladores han tratado este mercado con mucha ligereza y hay que empezar por hacer cumplir las leyes que tenemos ahora.
1. Urbina, F., Lentzos, F., Invernizzi, C. & Ekins, S. Nature Mach. Intel. 4 , 189-191 (2022).
COMENTARIOS