A mediados del pasado diciembre, un usuario del taxi autónomo de Waymo en Arizona, un trabajador tecnológico que fue recogido por uno de los vehículos para llegar al aeropuerto y volver a su casa en Los Angeles, se encontró de repente con que el automóvil empezaba a dar vueltas en círculo sin parar en un parking y no podía salir de él, porque al estar constantemente en movimiento, no podía tampoco abrir las puertas.
Tras más de cinco penosos minutos dando vueltas, logró contactar con Waymo para tratar de solucionar el problema y terminó llegando a su vuelo, aunque no quedó demasiado satisfecho con el trato que recibió de la compañía, que simplemente se limitó a no cobrarle el viaje, pero aparentemente no ofreció ni siquiera una disculpa.
A medida que más y más de las operaciones habituales que llevamos a cabo en nuestra vida cotidiana van siendo tomadas por algoritmos de diversos tipos, nos vamos a ir encontrando de manera más rutinaria con situaciones como esta o similares, con momentos de «rebelión de los electrodomésticos». Según un artículo publicado en IEEE Spectrum, resulta sorprendentemente fácil manipular de manera maliciosa robots desarrollados mediante modelos masivos de lenguaje, sin prácticamente necesidad de saber programar. Esto genera toda una amplia gama de posibilidades de manipulación que van desde la mera travesura, hasta cuestiones potencialmente mucho más serias, que nos llevan a un escenario en el que este tipo de comportamientos no van simplemente a ocurrir por accidente.
¿Es esto parte del precio que hay que pagar por acceder a determinadas prestaciones? Frente a la primera respuesta simplista de tipo «puedo vivir sin esas cosas y voy a prescindir de utilizarlas», está el riesgo inherente a mantenerse al margen de avances cada vez más implantados en el común de la sociedad, hasta convertirse simplemente en un viejo gruñón que maldice todo progreso. Obviamente, habrá que requerir más salvaguardas a las compañías que desarrollan la tecnología, pero creo que hablamos también de una cuestión de actitud por ambas partes: por un lado, entender que toda tecnología suficientemente nueva es, por su propia esencia, experimental, y por tanto sujeta a posibles fallos con respecto a los cuales debemos ajustar nuestras actitudes; y por otro, comprender que esos fallos pueden resultar no solo muy incómodos, sino en ocasiones, potencialmente severos, y precisar de una actitud muy comprensiva y con ánimo constructivo y reparador cuando esos fallos tienen lugar.
¿Queremos vehículos que conducen solos? Sí, sin duda: se trata del germen que va a conseguir muchos menos accidentes y fallecimientos en la carretera, además de un transporte eventualmente más barato, conveniente y al alcance de todos. Pero una tecnología así, durante cierto tiempo, estará sujeta a errores que, por el momento, no han ocasionado problemas realmente serios salvo en un par de ocasiones, y por situaciones muy aisladas en las que la responsabilidad no correspondía en absoluto a la tecnología. Conseguir sobrepasar una frontera tan impresionante como que un vehículo se maneje solo por el tráfico de una gran ciudad, y que eso no haya supuesto fallos verdaderamente importantes es algo que deberíamos valorar en su correspondiente medida, aunque tendamos a convertirlo rápidamente en parte de nuestra rutina y a incorporarlo dentro de la normalidad.
Para las compañías que la desarrollan, por su parte, es fundamental reconocer la importancia de la retroalimentación en todos sus sabores y posibilidades, la necesidad de una actitud siempre constructiva – nuestros usuarios, durante mucho tiempo, no van a ser «personas normales», sino en cierto sentido, «pioneros», y necesitamos esa actitud de querer probar cosas nuevas para que los productos superen una fase de popularización. Y sobre todo, una preocupación obsesiva por la seguridad a ciertos niveles: hay fallos razonablemente aceptables y otros que, evidentemente, nunca lo van a ser.
Obviamente, más fácil decirlo que ponerlo en práctica. Pero así se mueve la tecnología y su adopción. Ya veremos cuántas veces la usamos y cuántas la maldecimos…
Columna publicada originalmente en el sitio web de Enrique Dans.