Es fácil ver que los algoritmos más recientes escriben una historia o crean una imagen a partir de un texto y pensar que están listos para asumir toda una gama de tareas humanas. Pero los expertos insisten en que el poder creciente de los sistemas de IA hace que sea más importante que nunca mantener a los humanos informados.
Por qué es importante: los sistemas informáticos basados en IA se utilizan para manejar una variedad de tareas cada vez más importantes. Si bien los sistemas entrenados en aprendizaje automático hacen muchas cosas bien, también pueden equivocarse con confianza, una combinación peligrosa.
- Muchos de los sistemas de IA más potentes de la actualidad tienen como objetivo ofrecer una respuesta convincente a cualquier pregunta, independientemente de su precisión.
- “Si no sabe, debe decir que no sabe en lugar de inventar algo”, dice el investigador de Stanford Percy Liang, quien habló en un evento de Stanford el jueves.
Liang ha lanzado un proyecto para evaluar los últimos modelos de aprendizaje automático en una variedad de factores, desde la precisión hasta la transparencia.
- El objetivo, dijo, es crear algo equivalente a Consumer Reports, donde las personas puedan comprender las fortalezas y debilidades de los modelos fundamentales de IA, como los de Meta, Google y OpenAI.
La realidad es sólo una parte de esta imagen. También es muy importante qué base tiene un sistema de IA para proporcionar una respuesta y quién se beneficia.
- Históricamente, los sistemas informáticos se han diseñado principalmente para las personas que los utilizan.
- Pero un algoritmo que elige una sentencia penal, por ejemplo, no solo debe servir al juez al que asesora, sino también a las víctimas del delito, a los perpetradores y a la sociedad en su conjunto.
- Muchos estadounidenses sentirían, por ejemplo, que debería tener en cuenta el impacto de encarcelar a una parte significativa de la población masculina adulta afroamericana.
Esto no significa “pedir a una red neuronal que comprenda el racismo”, dijo James Landay, cofundador del Instituto para la IA centrada en el ser humano de Stanford , en una reunión de un día con periodistas el jueves.
- «Hay que exigir que el equipo que construya un sistema que entienda el racismo. Esa no es una pregunta que se cuestionan los científicos informáticos que generalmente están construyendo estos sistemas de IA».
El panorama general: durante años, los investigadores de IA han hablado teóricamente sobre formas responsables de diseñar tales sistemas y dividir el futuro del trabajo entre humanos y computadoras. Sin embargo, una avalancha de nuevos y poderosos sistemas está dando a estas preguntas una urgencia práctica.
Entre líneas: a pesar de todo lo que se habla de que las computadoras reemplazan o incluso replican la actividad humana, el uso más poderoso de ellas puede ser ayudar a los humanos a hacer mejor su trabajo.
- “Simplemente imitar a los seres humanos es escaso”, dijo el profesor de Stanford Erik Brynjolfsson en el evento. “Paradójicamente, también es demasiado difícil”.
- Esto se debe a que las computadoras sobresalen en tareas en las que los humanos fallan, desde el procesamiento de grandes cantidades de datos hasta la detección de patrones que incluso un investigador experto podría pasar por alto.
- Al mismo tiempo, las computadoras y los robots aún no pueden igualar a los humanos en todo, desde medir la delicada presión necesaria para recoger un arándano hasta caminar por un sendero lleno de baches.
Sea inteligente : emparejar humanos y computadoras puede tener ventajas para la sociedad, dijo Brynjolfsson, pero también puede obtener mejores resultados para las empresas.
- Al automatizar los centros de llamadas, señala Brynjolfsson, puede sustituir personas por máquinas y frustrar a los clientes. O puede tomar el camino de una empresa a la que está asesorando, Cresta, cuyo sistema monitorea las llamadas y ofrece sugerencias a los trabajadores humanos del centro de llamadas.
- Eso ahorra dinero a las empresas, mantiene los puestos de trabajo y conduce a clientes más felices, dice Brynjolfsson: “Mantener al ser humano informado parece funcionar mucho mejor”.