Exceso de confianza e IA

Los seres humanos a menudo somos más efectivos cuando somos un poco modestos. «Creo», «Quizás» o «Puede que me esté perdiendo algo, pero…» son buenas maneras de dar a nuestras afirmaciones la oportunidad de ser consideradas.

La calculadora LED de energía solar que usábamos en la escuela no hizo tal cosa. 6 x 7 es 42, sin peros.

Parte de la magia de la búsqueda de Google era que no solo era arrogante, sino que a menudo era correcta. La combinación de su confianza y su utilidad lo hizo sentir como un milagro.

Por supuesto, Google nunca estuvo completamente en lo correcto. Rara vez encontraba exactamente la página correcta cada vez. Eso quedó en nosotros. Pero el aura de omnipotencia persistió; de hecho, cuando Google fracasó, se suponía que debíamos culpar a los malvados piratas informáticos SEO de sombrero negro, no a un algoritmo imperfecto y a un monopolista codicioso.

Y ahora, ChatGPT aparece con afirmaciones totalmente articuladas sobre cualquier cosa que le preguntemos.

No me sorprende que una de las mayores críticas que escuchamos, incluso de expertos perspicaces, sea que es demasiado confiado. Que anuncia sin reservas que el biryani es parte de un tiffin tradicional del sur de la India, pero no lo es.

¿Habría alguna diferencia si cada respuesta comenzara, «Soy solo una versión beta de un programa que en realidad no entiende nada, pero los cerebros humanos llegan a la conclusión de que sí, así que tómalo con pinzas…»

De hecho, ese es nuestro trabajo.

Cuando aparece un dato simple y conveniente en la pantalla de tu computadora, tómalo con pinzas.

No todo el correo electrónico es spam.

No todas las ofertas son estafas.

Y no todas las respuestas de GPT3 son incorrectas.

Pero no está de más insertar tu propio prefacio antes de aceptarlo como verdadero.

El exceso de confianza no es problema de la IA. Hay muchos cambios culturales y económicos que causará. Nuestra credulidad es una de las cosas que debemos tener en cuenta.

Síguenos

Recientes

Populares

Eventos

También te puede interesar...

El adiós a las contraseñas: PassKeys revoluciona la Seguridad Digital

En el vertiginoso mundo digital, la seguridad de nuestros datos personales se ha convertido en una preocupación apremiante. Las contraseñas, durante mucho tiempo, han...

Seguridad de la Información: Consejos prácticos de implementación para la Alta Dirección

Después de implementar Sistemas de Gestión de Seguridad de la Información (SGSI) en distintos sectores en la región, antes y después de la pandemia,...

NIST CSF 2.0: un nuevo horizonte en ciberseguridad para las empresas

En el entorno empresarial actual, los riesgos de ciberseguridad se han convertido en uno de los desafíos más críticos que enfrentan las organizaciones. La...

¿Por qué los emprendedores deben pensar en economía circular?

Un tema que pco se toca en el mundo de los startups es el impacto que tienen en el medio ambiente. Es verdad que una fintech parece, a...