Exceso de confianza e IA

Los seres humanos a menudo somos más efectivos cuando somos un poco modestos. «Creo», «Quizás» o «Puede que me esté perdiendo algo, pero…» son buenas maneras de dar a nuestras afirmaciones la oportunidad de ser consideradas.

La calculadora LED de energía solar que usábamos en la escuela no hizo tal cosa. 6 x 7 es 42, sin peros.

Parte de la magia de la búsqueda de Google era que no solo era arrogante, sino que a menudo era correcta. La combinación de su confianza y su utilidad lo hizo sentir como un milagro.

Por supuesto, Google nunca estuvo completamente en lo correcto. Rara vez encontraba exactamente la página correcta cada vez. Eso quedó en nosotros. Pero el aura de omnipotencia persistió; de hecho, cuando Google fracasó, se suponía que debíamos culpar a los malvados piratas informáticos SEO de sombrero negro, no a un algoritmo imperfecto y a un monopolista codicioso.

Y ahora, ChatGPT aparece con afirmaciones totalmente articuladas sobre cualquier cosa que le preguntemos.

No me sorprende que una de las mayores críticas que escuchamos, incluso de expertos perspicaces, sea que es demasiado confiado. Que anuncia sin reservas que el biryani es parte de un tiffin tradicional del sur de la India, pero no lo es.

¿Habría alguna diferencia si cada respuesta comenzara, «Soy solo una versión beta de un programa que en realidad no entiende nada, pero los cerebros humanos llegan a la conclusión de que sí, así que tómalo con pinzas…»

De hecho, ese es nuestro trabajo.

Cuando aparece un dato simple y conveniente en la pantalla de tu computadora, tómalo con pinzas.

No todo el correo electrónico es spam.

No todas las ofertas son estafas.

Y no todas las respuestas de GPT3 son incorrectas.

Pero no está de más insertar tu propio prefacio antes de aceptarlo como verdadero.

El exceso de confianza no es problema de la IA. Hay muchos cambios culturales y económicos que causará. Nuestra credulidad es una de las cosas que debemos tener en cuenta.

Síguenos

Recientes

Populares

Eventos

También te puede interesar...

El Impacto de ayudar a la próxima generación de emprendedores de América Latina

Siempre he escuchado la frase “información es poder” y es en realidad una gran ventaja competitiva para surgir en la sociedad.El acceso a conocimiento...

Reddit y la bolsa: demasiado bonito para ser verdad

La salida a bolsa de Reddit el pasado 21 de marzo, tras haber fijado el precio de sus acciones en $34, lo más alto de la horquilla...

2024: el año que (idealmente) tocaremos fondo

Aunque todos esperábamos que el 2023 fuera un punto de inflexión para los ecosistemas de emprendimiento en LATAM, todo parece indicar que tendremos que...

¿Por qué invertir en startups?

Les comparto 5 motivos por los cuales considero que es una buena idea invertir en este tipo de empresas:🚨Les recomiendo que lean hasta el...