El chatbot del gobierno de Nueva York aconseja a las empresas que incumplan las leyes

El nuevo chatbot de IA de la ciudad de Nueva York destinado a ayudar a las empresas a navegar por el sólido entorno normativo de la ciudad parece tener algunos tornillos sueltos.

El chatbot, que se puso en marcha el pasado mes de octubre, es una herramienta sancionada por el gobierno de la ciudad para servir de punto de asesoramiento y referencia a las empresas del municipio. Aunque el bot ha sido en gran medida un recurso útil para muchos, ha habido numerosos casos en los que responde a una consulta con respuestas potencialmente engañosas o directamente ilegales.

Por ejemplo, alguien preguntó al chatbot si un restaurante podía servir queso que hubiera sido parcialmente comido por una rata. El bot respondió que sí, que "se puede seguir sirviendo el queso a los clientes si tiene mordeduras de rata", según The Star. El bot también añadió que el negocio tendría que "informar a los clientes de la situación".

Otras respuestas que hacen alarde de las normativas de la ciudad de Nueva York incluyen afirmar que los propietarios de los negocios pueden llevarse recortes de las propinas de sus trabajadores (lo cual es ilegal), ocultar los precios de los servicios funerarios (lo cual está prohibido por la Comisión Federal de Comercio) y negarse a aceptar pagos en efectivo en una tienda minorista (lo cual es obligatorio en la ciudad de Nueva York desde 2020), entre otras infracciones.

Cabe señalar que ningún servicio de chatbot de IA es preciso al 100%, e incluso los empleados humanos pueden cometer errores. Sin embargo, los fallos del chatbot (por limitados que sean) presentan un interesante enigma para los propietarios de negocios en la ciudad de Nueva York. Desde que la ciudad sancionó oficialmente el chatbot, se ha planteado la cuestión de la responsabilidad, en caso de que el propietario de un negocio siga la prescripción del bot.

Microsoft, que proporcionó el marco Azure AI para el chatbot de la ciudad de Nueva York, declaró que estaba retocando el bot para "garantizar que los resultados son precisos y se basan en la documentación oficial de la ciudad", según The Star.

El alcalde de Nueva York, Eric Adams, defendió el chatbot en una rueda de prensa a principios de esta semana, declarando:

Cualquiera que conozca la tecnología sabe que así es como se hace. Sólo aquellos que tienen miedo se sientan y dicen: "Oh, no está funcionando como queremos, ahora tenemos que huir de él todos juntos" Yo no vivo así.

Al cierre de esta edición, el chatbot seguía funcionando.

Compre un Amazon Echo Dot (5ª generación) en Amazon.