OpenAI ha anunciado recientemente una asociación con Common Sense Media, una organización enfocada en el “bienestar digital” de los menores de edad. Esta colaboración tiene como objetivo desarrollar directrices y materiales educativos para padres, educadores y adolescentes, así como adaptar las aplicaciones de ChatGPT para que sean “aptas para la familia” en la GPT Store de OpenAI, según informa TechCrunch.
La unión con Common Sense Media surge en un momento en que OpenAI se enfrenta a crecientes cuestionamientos sobre la seguridad, la transparencia y el uso ético de sus productos. La compañía ha adoptado el marco de evaluaciones y calificaciones de Common Sense, que incluye lo que llaman una “etiqueta nutricional” para aplicaciones basadas en IA, señalando su uso, riesgos y oportunidades. Esta medida parece ser una respuesta a la creciente brecha generacional en el conocimiento y utilización de herramientas de IA, evidenciada ya en multitud de encuestas.
El ya notorio CEO de OpenAI, Sam Altman, enfatizó la importancia de esta colaboración, declarando que “la IA ofrece increíbles beneficios para las familias y los adolescentes, y nuestra asociación con Common Sense fortalecerá aún más nuestro trabajo en seguridad, asegurando que las familias y los adolescentes puedan usar nuestras herramientas con confianza”.
No le falta razón a Altman. Las herramientas de IA generativa tienden a inventarse cosas con la mayor de las confianzas y a cometer errores en cuestiones básicas. Además, están sesgadas, reflejando los datos con los que fueron entrenadas. Sin embargo, los niños y adolescentes, conscientes o no de las limitaciones de estas herramientas, recurren cada vez más a ellas no solo para la ayuda con las tareas escolares, sino también para cuestiones personales. Esto constituye, evidentemente, un riesgo que va mucho más allá del hecho de que el o la estudiante se lleve una mala calificación en un trabajo por plagio. Según una encuesta publicada en septiembre por el Center for Democracy and Technology, el 29% de los niños afirmaba haber utilizado ChatGPT para tratar problemas de ansiedad o de salud mental, el 22% para problemas con amigos y el 16% para conflictos familiares.