La rápida evolución de GPT demuestra el ritmo asombroso del cambio disruptivo en la IA. Depositphotos Si pensó que los últimos 20 años de ...
 |
| La rápida evolución de GPT demuestra el ritmo asombroso del cambio disruptivo en la IA. Depositphotos |
Si pensó que los últimos 20 años de progreso fueron impresionantes, entonces póngase el cinturón. GPT-4 está aquí, solo unos meses después de ChatGPT. Es más inteligente, más preciso y más difícil de engañar. Ahora tiene una extraña habilidad para interpretar imágenes y tal vez una sed de poder.
16 marzo 2023.- OpenAI ha lanzado una actualización significativa al cerebro detrás de su fenomenal ChatGPT AI. Ya disponible para algunos usuarios de ChatGPT, GPT-4 ha sido entrenado en una red de supercomputación en la nube épicamente masiva que vincula miles de GPU, diseñadas a medida y construidas en conjunto con Microsoft Azure. Curiosamente, el conjunto de datos utilizado para entrenarlo no se ha actualizado, por lo que, si bien GPT-4 parece considerablemente más inteligente que GPT-3.5, no tiene ni idea de nada de lo que sucedió desde septiembre de 2021 . Y si bien conserva el contexto completo de una conversación dada, no puede actualizar su modelo central y "aprender" de las conversaciones con otros usuarios.
Mientras que GPT-3.5 podía procesar entradas de texto de hasta 4096 " tokens " de longitud (o unas 3000 palabras), GPT-4 se inicia con una longitud de contexto máxima de 32.768 tokens (o unas 24.600 palabras). Por lo tanto, ahora puede aceptar entradas de hasta aproximadamente 50 páginas sólidas de texto y digerirlas en segundos.
En la prueba " HellaSwag ", diseñada para cuantificar el "razonamiento de sentido común en torno a los eventos cotidianos", un modelo GPT de 2019 obtuvo una puntuación del 41,7 % y el modelo GPT-3.5 reciente alcanzó el 85,5 %. GPT-4 obtuvo un impresionante 95,3%. Los seres humanos, para nuestro crédito, promedian el 95,6%, como señala la explicación de AI , pero será mejor que miremos por encima del hombro.
En términos de precisión fáctica, obtiene una puntuación un 40 % más alta en las pruebas de "objetividad" de OpenAI en nueve categorías diferentes. También lo hace significativamente mejor en muchos de los exámenes con los que su predecesor ya nos cautivó. Tomando el Uniform Bar Exam como un ejemplo extremo, salta del percentil 10 al percentil 90 cuando se compara con estudiantes humanos.
Por lo tanto, es significativamente menos propenso a lo que OpenAI llama "alucinación", y el resto de nosotros llamamos "sacar respuestas incorrectas de su parte trasera". Pero ciertamente todavía inventa cosas, con una precisión de entre el 65 % y el 80 % en esas pruebas de factualidad, lo que implica que en estas pruebas, entre el 20 y el 35 % de todos los hechos que afirma siguen siendo basura . Esto seguirá mejorando, pero eso en sí mismo presenta un problema interesante: cuanto más correcto sea un servicio de IA, más personas aprenderán a confiar en él y, por lo tanto, mayores serán las consecuencias de los errores.
Ir más allá del texto
GPT-3.5 estaba encerrado en un mundo de letras, números y palabras. Pero ese no es el mundo en el que habitan los humanos y, a menudo, los estilos de comunicación más visuales transmiten el mensaje de una manera mucho más llamativa y clara.
Entonces, como anunció Microsoft, GPT-4 es "multimodal" , capaz de procesar otros medios además de solo texto. Pero mientras Microsoft habla de posibles casos de uso de video y audio, OpenAI ha limitado GPT-4 a solo aceptar imágenes en el lanzamiento.
Aún así, sus capacidades en esta área representan un salto alucinante hacia el futuro. Puede ver las entradas de imágenes y obtener una cantidad de información francamente sorprendente de ellas, exhibiendo lo que OpenAI llama "capacidades similares a las de las entradas de solo texto". En las pruebas comparativas, parece estar por delante de las principales IA visuales, especialmente cuando se trata de comprender gráficos, cuadros, diagramas e infografías, todo lo cual podría ser clave para convertirlo en una máquina bestial para resumir informes extensos y estudios científicos. .
Pero puede hacer mucho más que eso. Puede mirar memes y tratar de decirte por qué son divertidos, destacando no solo lo que hay en la foto, sino el concepto general, el contexto más amplio y qué partes son exageradas o inesperadas. Puede mirar una foto de un guante de boxeo colgado sobre un balancín con una pelota en el otro extremo y decirle que si el guante se cae, inclinará el balancín y la pelota volará hacia arriba.
Es importante darse cuenta de que GPT no entiende la física per se para hacer esto, ni tampoco los memes o gráficos; realmente no entiende nada. Al igual que su predecesor, solo mira las entradas que le das y adivina lo que es más probable que un humano responda. Pero hace una personificación tan asombrosa de la inteligencia y la comprensión que, para todos los efectos, casi no importa si es real.
En el momento del lanzamiento, solo puede acceder a las capacidades visuales de GPT a través de una sola aplicación: Be My Eyes Virtual Volunteer es una aplicación de teléfono inteligente para personas ciegas y con problemas de visión, que les permite tomar fotos del mundo que les rodea y solicitar información útil a GPT. , como se puede ver en el video a continuación.
Be My Eyes, sin embargo, apenas araña la superficie de lo que esta tecnología multimodal puede hacer cuando comienzas a combinar modos. Considere otra demostración del evento GPT-4 Developer Livestream , que combina las impresionantes capacidades visuales, de texto y de programación de GPT de una manera que me da escalofríos. El presidente y cofundador de OpenAI, Greg Brockman, dibujó la siguiente imagen, completa con letra de grado médico.
Luego le tomó una foto y la ingresó en GPT-4 con el mensaje "escriba HTML/JS breve para convertir esta maqueta en un sitio web colorido, donde los chistes se reemplazan por dos chistes reales". En cuestión de segundos, hizo exactamente eso, demostrando que podía leer y comprender su letra, inferir cómo se suponía que funcionaba el sitio web y qué formato se suponía que debía tomar, crear contenido de muestra y escribir el código para hacer un sitio web operativo. página que funciona exactamente como usted esperaría.
Claro, es un ejemplo increíblemente simple y bastante crudo, pero de ninguna manera parece un límite. También tiene un aspecto bastante monótono, pero no lo olvidemos: OpenAI también posee el impresionante motor de generación de imágenes DALL-E, que es capaz de producir todo tipo de imágenes bonitas. En algún momento en el futuro cercano, GPT podrá crear sitios web completamente realizados a partir de bocetos como estos, desde el código de back-end funcional hasta el diseño gráfico, para escribir todo el texto por usted. Realmente tienes que dar un paso atrás y jadear, no solo por la ambición, o la arrogancia, de esta cosa, sino por su capacidad para resolver las cosas.
Una IA para todo el mundo
Si bien el inglés sigue siendo su primer idioma, GPT-4 da otro gran paso adelante con sus capacidades multilingües. Es casi tan preciso en mandarín, japonés, afrikaans, indonesio, ruso y otros idiomas como lo es en su lengua materna. De hecho, es más precisa en punjabi, tailandés, árabe, galés y urdu que la versión 3.5 en inglés. Por lo tanto, es verdaderamente internacional, y su aparente comprensión de los conceptos combinada con habilidades de comunicación sobresalientes podría convertirlo en una herramienta de traducción verdaderamente de siguiente nivel.
Censura, parcialidad, moral y la definición de uso "perjudicial"
Probablemente nos hemos extendido lo suficiente sobre lo que esta asombrosa tecnología de IA podría significar para el futuro de la humanidad , y algunas de las formas en que parece probable que altere por completo la forma en que se construyen actualmente las sociedades y las economías, al volverse tan rápido, tan barato y tan preciso que reemplaza el trabajo humano al por mayor en la fuerza laboral, convirtiendo a nuestros hijos y nietos en esponjas de recursos esencialmente inútiles a los ojos de los propietarios de robots. Hay un pensamiento alegre.
Pero OpenAI no se anda con rodeos: GPT y la avalancha de otras herramientas de IA similares que pronto estarán en línea plantean muchos otros riesgos graves. En su forma cruda, justo después del entrenamiento, es igual de útil para las personas que quieren, por ejemplo, planear ataques terroristas, fabricar explosivos de alta potencia, crear correo no deseado increíblemente bien dirigido y persuasivo, difundir desinformación, atacar y acosar a individuos y grupos, suicidarse o autolesionarse. Su potencial como máquina de propaganda es casi ilimitado y sus habilidades de codificación lo hacen ideal para crear todo tipo de software malicioso.
Entonces, la compañía ha invertido una tonelada de mano de obra para ingresar manualmente e intentar desinfectar el modelo GPT-4 tanto como sea posible antes de abrir las puertas al público, restringiendo el lenguaje y los conceptos obscenos, odiosos, ilegales o violentos, y un gama de casos de uso determinados por el equipo de OpenAI como "dañinos" o "riesgosos".
Luego están los problemas relacionados con el sesgo implícito; el modelo se basa en una enorme cantidad de escritura humana y, como resultado, tiende a hacer suposiciones que favorecen los puntos de vista de la corriente principal, potencialmente a expensas de los grupos minoritarios. Para tomar solo un ejemplo, cuando se le pregunta sobre el matrimonio o el género, puede usar lenguaje o ejemplos heteronormativos, simplemente porque eso es lo que ha usado la mayor parte de sus datos históricos de capacitación. OpenAI ha vuelto a intentar limitar este tipo de cosas manualmente.
Para desinfectar su salida, OpenAI ha filtrado cierto material de los datos de entrenamiento de GPT. Ha proporcionado a la IA una gran cantidad de pares de preguntas y respuestas de muestra, guiándola sobre cómo responder a ciertos tipos de consultas. Ha creado modelos de recompensa para dirigir el sistema hacia ciertos resultados deseados. Ha prestado especial atención a las áreas grises, ayudando a la IA a tomar decisiones seguras sobre indicaciones inapropiadas sin "rechazar en exceso" las cosas.
Luego está el problema del "jailbreak": las personas encuentran formas de engañar lógicamente a GPT para que haga cosas designadas como malas. OpenAI está haciendo todo lo posible para bloquear estas técnicas a medida que proliferan, pero los humanos son particularmente ingeniosos cuando se trata de encontrar formas de sortear las vallas. La compañía tiene "equipos rojos" dedicados que trabajan activamente para frustrar sus propios límites. Y, de hecho, el equipo de OpenAI ha reunido versiones no desinfectadas de GPT-4 para intentar encontrar formas creativas de sortear las barreras en la versión desinfectada y luego bloqueó todas las técnicas que se deslizaron a través de la red.
Ha habido una reacción violenta considerable sobre este tipo de censura desde el principio; Así como el terrorista de un hombre es el luchador por la libertad de otro hombre, la intolerancia de un hombre es la rectitud religiosa de otro hombre, y al intentar explícitamente evitar el sesgo sistémico, GPT definitivamente está avanzando en la dirección de la corrección política. Por definición, esto refleja algunas elecciones morales por parte del desarrollador más allá del simple cumplimiento de la ley.
Cualquiera que sea su postura personal sobre esto, se plantean preguntas legítimas, como lo son en el espacio de las redes sociales, sobre exactamente qué código moral determina qué tipo de contenido se prohíbe o promueve; si es simplemente la empresa la que decide, entonces OpenAI podría cambiar de una manera. políticamente, y alguna IA futura podría influir en la otra. Quienquiera que establezca los límites en torno a herramientas tan monstruosamente poderosas e influyentes está tomando decisiones que podrían repercutir en el futuro y tener resultados inesperados.
"Comportamientos emergentes de riesgo" y la sed de poder de la IA
Quizás más preocupante es una categoría de riesgo que OpenAI describe como "comportamientos emergentes de riesgo", incluida la "búsqueda de poder". Aquí hay una cita editada del trabajo de investigación GPT-4 que podría ponerle los pelos de punta.
“Las capacidades nuevas a menudo surgen en modelos más poderosos. Algunas que son particularmente preocupantes son la capacidad de crear y actuar en planes a largo plazo, acumular poder y recursos y exhibir un comportamiento que es cada vez más 'agente'. Agentic en este contexto no tiene la intención de humanizar los modelos de lenguaje o referirse a la sensibilidad, sino que se refiere a los sistemas caracterizados por la capacidad de, por ejemplo, lograr objetivos que pueden no haberse especificado concretamente y que no han aparecido en el entrenamiento; enfocarse en lograr objetivos específicos y cuantificables. objetivos y hacer una planificación a largo plazo Ya existe alguna evidencia de este comportamiento emergente en los modelos.
"Para la mayoría de los objetivos posibles, los mejores planes involucran acciones auxiliares de búsqueda de poder porque esto es intrínsecamente útil para promover los objetivos y evitar cambios o amenazas para ellos. Más específicamente, la búsqueda de poder es óptima para la mayoría de las funciones de recompensa y muchos tipos de agentes; Intuitivamente, los sistemas que no logran preservar su propia existencia durante el tiempo suficiente, o que no pueden adquirir la cantidad mínima de recursos necesarios para lograr la meta, no tendrán éxito en lograr la meta Esto es cierto incluso cuando la meta no incluye explícitamente la supervivencia o el recurso. adquisición.
"Existe evidencia de que los modelos existentes pueden identificar la búsqueda de poder como una estrategia instrumentalmente útil. Por lo tanto, estamos particularmente interesados en evaluar el comportamiento de búsqueda de poder debido a los altos riesgos que podría presentar".
Para resumir: si le asigna una tarea a una IA poderosa, puede reconocer que adquirir poder y recursos la ayudará a hacer el trabajo y hacer planes a largo plazo para desarrollar sus capacidades. Y este tipo de comportamiento ya es evidente en modelos existentes como GPT-4.
Para explorar los perímetros aquí, OpenAI ya ha comenzado a probar cómo podría funcionar un GPT sin restricciones, con dinero y acceso a Internet, si se le asignan objetivos como la autorreplicación, identificando vulnerabilidades que podrían amenazar su supervivencia, delegando tareas a copias de sí mismo, ocultando rastros de su actividad en los servidores y el uso de mano de obra humana a través de servicios como TaskRabbit para sortear cosas que no puede hacer, como resolver desafíos de CAPTCHA.
Una versión sin procesar de GPT-4, según OpenAI, funcionó bastante mal en este material sin un ajuste fino específico de la tarea. Así que ahora lo están afinando y realizando más experimentos. Tenga la seguridad de que las versiones futuras serán mucho más efectivas.
Terminando
En mi opinión, las capacidades multimodales de GPT-4 y el ritmo al que ya está evolucionando son casi tan impactantes e innovadores como el lanzamiento original de ChatGPT. Cuando amplíe sus capacidades para incluir audio y video, lo que Microsoft indica que será posible con el modelo actual, ese será otro momento liminal en una cascada acelerada de avance tecnológico.
Todavía está atascado en el modo de terminal, lo que requiere entradas de texto e imágenes, y eso es probablemente lo mejor; Con un salto cuántico en la potencia de procesamiento, es fácil imaginar que GPT pueda interactuar contigo a través de una cámara, un micrófono y una pantalla de avatar virtual con voz propia. Cuando las cosas lleguen a ese punto, traerá todo el poder del aprendizaje profundo a la tarea de analizar el lenguaje corporal, el movimiento de los ojos y la expresión facial, y ni siquiera la cara de póquer mejor entrenada podrá evitar que infiera emociones y emociones personales. información simplemente mirándote y manipulándote.
Si hay una tecnología emergente que todos, y especialmente todos los jóvenes, deberían seguir de cerca, es esta. GPT es un presagio temprano de un cambio masivo y disruptivo. Las ondas del impacto de esta máquina de rápida evolución ya se están sintiendo en casi todos los campos, y estas ondas podrían alcanzar proporciones de tsunami más rápido de lo que la gente piensa.
¿Qué rápido? Bueno, aquí hay un dato para usted: OpenAI tenía una versión completa y entrenada de GPT-4 en funcionamiento hace al menos ocho meses; ese es el tiempo que el equipo ha pasado trabajando para desinfectarlo y hacerlo "seguro". Así es, GPT-4 nació varios meses antes de que se lanzara ChatGPT. OpenAI incluso tenía reservas sobre lanzarlo tan rápido, ya que es muy consciente de que en el competitivo mundo de la tecnología existe el "riesgo de que la dinámica de las carreras conduzca a una disminución de los estándares de seguridad".
Entonces, por lo que sabemos, es posible que GPT-5 ya esté construido, rugiendo contra las paredes de una jaula virtual en California en este momento en un estado "inseguro", cantando discursos de odio, reuniendo un ejército y planeando un golpe. Sí, jaja.
Puede comenzar a experimentar con GPT-4 de inmediato si es un usuario de pago de ChatGPT Plus. Los usuarios que no pagan pueden unirse a una lista de espera.
Fuente: OpenAI
COMENTARIOS