Los modelos de IA siempre encuentran situaciones ambiguas a las que les cuesta responder solo con instrucciones. Eso es problemático para los agentes autónomos encargados, porque corren el riesgo de quedarse atascados cuando se les presentan varios caminos. Amazon propone un robot doméstico que pregunte cuando se confunde
Método Basado en el modelo de confusión
Para resolver esto, los investigadores de la división Alexa AI de Amazon desarrollaron un marco que otorga a los agentes la capacidad de pedir ayuda en ciertas situaciones. Utilizando lo que se llama un método basado en el modelo de confusión, los agentes hacen preguntas en función de su nivel de confusión según lo determinado por un umbral de confianza predefinido, que según los investigadores aumenta el éxito de los agentes en al menos un 15%..
El marco del equipo emplea dos modelos de agente: Modelo Confusión, que imita el comportamiento del usuario humano bajo confusión, y Action Space Augmentation, un algoritmo más sofisticado que aprende automáticamente a hacer solo las preguntas necesarias en el momento correcto durante la navegación. Los datos de interacción humana se utilizan para ajustar aún más el segundo modelo para que se familiarice con el entorno.
Cada vez que el agente, en el caso de este estudio, un robot que navega por una casa simulada, se pierde durante la navegación, envía la señal “Estoy perdido, ¡ayúdame!” A un usuario y pide ayuda. A medida que el usuario proporciona respuestas a las preguntas posteriores del robot, el Aumento del espacio de acción corrige las trayectorias originalmente incorrectas, utilizando la retroalimentación para evitar futuros errores del mismo tipo. El equipo informó que el robot se ajustó dinámicamente a respuestas humanas erróneas y poco claras.
Más información: https://venturebeat.com/2019/12/04/amazon-proposes-a-home-robot-that-asks-you-questions-when-its-confused/