Meta prueba un servicio de hospitalidad artificialmente inteligente de Muse, generando preocupaciones de privacidad entre los empleados

Meta está probando un servicio llamado "conserje artificial" para su nuevo asistente personal de IA, Muse, el cual será gestionado por contratistas externos que se encargarán de algunas de las llamadas realizadas a través de Muse. Según un informe exclusivo de Reuters, Meta presentó esta prueba a sus empleados la semana pasada, justo después de lanzar públicamente la función de llamadas de Muse. Fuentes cercanas y publicaciones internas revelan que Meta ha abierto la prueba de la función de "conserje artificial", también conocida como "llamadas de agentes humanos", a aproximadamente la mitad de sus empleados.

Estos empleados ya estaban probando la función de llamadas de Muse y podían optar por salir de la opción de intervención humana. Meta comenzó a permitir que los empleados "probaran internamente" la capacidad de realizar llamadas en agosto y ha ido lanzando gradualmente la función a los usuarios en los días posteriores al lanzamiento de la aplicación Muse.

Meta está probando la función de conserje artificial para mejorar la tasa de éxito de las llamadas

El funcionamiento del "conserje artificial" es el siguiente: cuando un usuario realiza una llamada a través de Muse, si la IA no puede completar la tarea de manera independiente, el personal externo del centro de llamadas puede intervenir y comunicarse directamente con el comerciante en lugar de la IA. Los usuarios de Muse pueden hacer que la IA llame a empresas en Estados Unidos para gestionar citas de peluquería, consultar el inventario de tiendas, obtener cotizaciones de contratistas, entre otros asuntos. Al finalizar la llamada, la aplicación Muse proporciona un resumen y un registro de la conversación. Algunos empleados han expresado preocupaciones sobre la privacidad en relación con la gestión humana de las llamadas, advirtiendo que esta práctica podría llevar a la divulgación involuntaria de información sensible a los contratistas del centro de llamadas.

Un empleado de Meta comentó en una publicación interna: "No entiendo por qué creemos que esta función vale el riesgo. Estamos a solo un bug de una divulgación innecesaria de información a los operadores humanos."

Otro empleado hizo que Muse llamara a un proveedor de internet y televisión por cable para negociar una factura, pero el registro de la llamada mostró que el contratista humano hizo comentarios de carácter racial durante la conversación. Los empleados internos también señalaron que la intervención humana podría debilitar el principal atractivo de Muse: Meta había enfatizado en el lanzamiento que el asistente de IA contaba con medidas de seguridad, informando a los posibles usuarios que cada agente tenía una "máquina virtual" de seguridad independiente y que almacenaba información sensible como contraseñas en un espacio encriptado separado. Sin embargo, estas medidas de seguridad no pueden proteger a los usuarios de la influencia de extraños en el centro de llamadas.

En respuesta a estas preocupaciones, una vicepresidenta del departamento de SuperIntelligence Labs de Meta admitió en una publicación interna que comenzar a probar llamadas realizadas por contratistas sin la divulgación adecuada "fue un error", y afirmó que la compañía ha "revertido temporalmente esta función". También indicó que Meta sigue "escalando la pendiente de las llamadas de IA", y algunas pruebas han demostrado que las llamadas realizadas por humanos pueden aumentar la tasa de éxito a un rango del 95% al 98%, mientras que la tasa de éxito de las llamadas puramente de IA es "más baja".

Además, se disculpó con el empleado que reportó el incidente de comentarios raciales y se comprometió a que el "agente artificial" involucrado no participará en ningún proyecto de Meta en el futuro.

El portavoz de Meta, Daniel Roberts, al responder a Reuters, indicó que la retroalimentación de los empleados sobre la prueba "es en su mayoría positiva", y que el objetivo de la prueba es "recoger comentarios para perfeccionar las medidas de seguridad y privacidad antes del lanzamiento oficial y mejorar la funcionalidad". Señaló: "Estamos trabajando con comerciantes para seguir mejorando esta potencial función de llamadas, y solo la lanzaremos cuando esté lista y acompañada de la divulgación adecuada."