Los seres humanos a menudo somos más efectivos cuando somos un poco modestos. «Creo», «Quizás» o «Puede que me esté perdiendo algo, pero…» son buenas maneras de dar a nuestras afirmaciones la oportunidad de ser consideradas.
La calculadora LED de energía solar que usábamos en la escuela no hizo tal cosa. 6 x 7 es 42, sin peros.
Parte de la magia de la búsqueda de Google era que no solo era arrogante, sino que a menudo era correcta. La combinación de su confianza y su utilidad lo hizo sentir como un milagro.
Por supuesto, Google nunca estuvo completamente en lo correcto. Rara vez encontraba exactamente la página correcta cada vez. Eso quedó en nosotros. Pero el aura de omnipotencia persistió; de hecho, cuando Google fracasó, se suponía que debíamos culpar a los malvados piratas informáticos SEO de sombrero negro, no a un algoritmo imperfecto y a un monopolista codicioso.
Y ahora, ChatGPT aparece con afirmaciones totalmente articuladas sobre cualquier cosa que le preguntemos.
No me sorprende que una de las mayores críticas que escuchamos, incluso de expertos perspicaces, sea que es demasiado confiado. Que anuncia sin reservas que el biryani es parte de un tiffin tradicional del sur de la India, pero no lo es.
¿Habría alguna diferencia si cada respuesta comenzara, «Soy solo una versión beta de un programa que en realidad no entiende nada, pero los cerebros humanos llegan a la conclusión de que sí, así que tómalo con pinzas…»
De hecho, ese es nuestro trabajo.
Cuando aparece un dato simple y conveniente en la pantalla de tu computadora, tómalo con pinzas.
No todo el correo electrónico es spam.
No todas las ofertas son estafas.
Y no todas las respuestas de GPT3 son incorrectas.
Pero no está de más insertar tu propio prefacio antes de aceptarlo como verdadero.
El exceso de confianza no es problema de la IA. Hay muchos cambios culturales y económicos que causará. Nuestra credulidad es una de las cosas que debemos tener en cuenta.