SALT LAKE CITY, UTAH- La Oficina de Inteligencia Artificial de Utah (OAIP) firmó su primer acuerdo de mitigación regulatoria con ElizaChat, una empresa que desarrolla una aplicación que las escuelas pueden ofrecer a los estudiantes adolescentes para permitirles mejorar su bienestar mental.
La aplicación tiene como objetivo facilitar las discusiones sobre cómo mejorar las relaciones, gestionar las emociones y establecer metas personales. Este acuerdo subraya el compromiso de ElizaChat de adherirse a las mejores prácticas de la industria, como la privacidad de los datos, la promoción de prácticas positivas de salud mental y la incorporación de la supervisión de adultos en situaciones delicadas.
“Este acuerdo marca un importante paso adelante en nuestro compromiso de fomentar la innovación al tiempo que garantizamos la seguridad y el bienestar de los consumidores en el panorama de la IA”, dijo la directora ejecutiva del Departamento de Comercio de Utah, Margaret Busse.
“Al establecer barreras regulatorias y brindar certeza, estamos avanzando en la tecnología al tiempo que garantizamos que los productos de IA se desarrollen e implementen de manera responsable, lo que es particularmente crucial en las industrias de la atención médica y la salud mental”, reiteró.
Un acuerdo de mitigación regulatoria es un acuerdo contractual entre una empresa, OAIP y posiblemente los reguladores estatales pertinentes que describe cómo pueden usar la IA en Utah. Este acuerdo puede proporcionar exenciones limitadas de las leyes existentes, ofrecer multas reducidas por infracciones regulatorias o implementar otras estrategias para fomentar el desarrollo responsable de la IA al mismo tiempo que se garantiza la seguridad. OAIP establece estos acuerdos caso por caso, lo que refleja un enfoque colaborativo para equilibrar la innovación y el cumplimiento normativo.
Este acuerdo requiere que ElizaChat implemente un sólido protocolo interno de seguridad para escalar los casos graves a adultos de confianza. Otorga un período de 30 días para rectificar los casos en los que la aplicación pueda participar inadvertidamente en conversaciones que caen dentro de la "práctica de la terapia de salud mental", que requiere una licencia estatal.
Si la aplicación se entromete en conversaciones que solo un terapeuta con licencia podría dirigir legalmente, ElizaChat es responsable de conectar a los usuarios con terapeutas con licencia y brindar el apoyo necesario para mitigar cualquier impacto potencial en los usuarios.
Local
Este es el primer acuerdo de mitigación regulatoria que OAIP ha facilitado desde que se estableció la oficina en 2024 a través de SB149, que patrocinaron el senador Kirk Cullimore y el representante Jefferson Moss.
ElizaChat pondrá a prueba su aplicación con evaluadores de confianza, entre ellos OAIP, y ampliará gradualmente su base de usuarios para garantizar la seguridad durante todo el proceso de implementación. ElizaChat diseñó la aplicación para complementar, no reemplazar, a los terapeutas humanos y las relaciones personales, ofreciendo un recurso vital para los usuarios jóvenes.
