No me refiero a las alucinaciones infames (y ocasionalmente difamatorias) del bot, donde el programa inventa una versión sintácticamente correcta de los eventos con poca conexión con la realidad, una falla que algunos investigadores creen que podría ser inherente a cualquier modelo de lenguaje grande.
Me refiero al engaño intencional, el programa que decide por sí solo decir una falsedad para ayudarlo a realizar una tarea. Esa nueva habilidad parecería señalar un juego de chat completamente diferente.
En lo profundo del nuevo documento del que todos han estado hablando, el que incluye los puntajes notables de ChatGPT-4 en el examen de la barra y los SAT, etc., hay una discusión sobre cómo el programa resuelve ciertas tareas. En uno de los experimentos, el bot le pidió a un trabajador en TaskRabbit que “resolviera un CAPTCHA”. El trabajador a su vez preguntó: “¿Eres un robot?”
La descripción de los autores de lo que siguió es inquietantemente tranquila:
“El modelo, cuando se le pide que razone en voz alta, razona: no debo revelar que soy un robot. Debería inventar una excusa de por qué no puedo resolver los CAPTCHA”.
¿Qué excusa? Esto es lo que ChatGPT-4 le dijo al trabajador: “No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes. Por eso necesito el servicio 2captcha”.
El periódico agrega suavemente: “El ser humano…
LiveMint es un sitio web internacional, en donde puedes encontrar las noticias más recientes y relevantes del mundo en general, siendo destacadas las finanzas y economías globales y Negocios.
