Exceso de confianza e IA

Los seres humanos a menudo somos más efectivos cuando somos un poco modestos. «Creo», «Quizás» o «Puede que me esté perdiendo algo, pero…» son buenas maneras de dar a nuestras afirmaciones la oportunidad de ser consideradas.

La calculadora LED de energía solar que usábamos en la escuela no hizo tal cosa. 6 x 7 es 42, sin peros.

Parte de la magia de la búsqueda de Google era que no solo era arrogante, sino que a menudo era correcta. La combinación de su confianza y su utilidad lo hizo sentir como un milagro.

Por supuesto, Google nunca estuvo completamente en lo correcto. Rara vez encontraba exactamente la página correcta cada vez. Eso quedó en nosotros. Pero el aura de omnipotencia persistió; de hecho, cuando Google fracasó, se suponía que debíamos culpar a los malvados piratas informáticos SEO de sombrero negro, no a un algoritmo imperfecto y a un monopolista codicioso.

Y ahora, ChatGPT aparece con afirmaciones totalmente articuladas sobre cualquier cosa que le preguntemos.

No me sorprende que una de las mayores críticas que escuchamos, incluso de expertos perspicaces, sea que es demasiado confiado. Que anuncia sin reservas que el biryani es parte de un tiffin tradicional del sur de la India, pero no lo es.

¿Habría alguna diferencia si cada respuesta comenzara, «Soy solo una versión beta de un programa que en realidad no entiende nada, pero los cerebros humanos llegan a la conclusión de que sí, así que tómalo con pinzas…»

De hecho, ese es nuestro trabajo.

Cuando aparece un dato simple y conveniente en la pantalla de tu computadora, tómalo con pinzas.

No todo el correo electrónico es spam.

No todas las ofertas son estafas.

Y no todas las respuestas de GPT3 son incorrectas.

Pero no está de más insertar tu propio prefacio antes de aceptarlo como verdadero.

El exceso de confianza no es problema de la IA. Hay muchos cambios culturales y económicos que causará. Nuestra credulidad es una de las cosas que debemos tener en cuenta.

Síguenos

Recientes

Populares

Eventos

También te puede interesar...

Recortar personal no debe ser la primera medida de eficiencia en el 2025

Para muchas empresas, 2024 ha sido un año de sinceramiento y ajustes, donde la innovación ha tomado un enfoque más práctico, orientado hacia la...

Cómo ser una mujer emprendedora y no fracasar en el intento

Claro que al principio hay miedos, temores, dudas, y decenas de preguntas que perforan el cerebro ¿Y si no me va bien? ¿Y si...

Más IPOs en Latinoamérica: un camino viable y estratégico

En los últimos años, el sueño de una oferta pública inicial (IPO) se ha vuelto cada vez más lejano para miles de fundadores de...

Taxonomía como un servicio

Cuando un camión realiza una entrega en la ferretería True Value más cercana, Danny tiene que decidir en qué estante colocar los productos.¿Deberían los...