A NEDA (Associação Nacional de Distúrbios Alimentares), sediada nos EUA, anunciou a suspensão de um chatbot que, de acordo com ativistas, estava dando conselhos de perda de peso aos usuários. A ação ocorre depois que a organização desativou recentemente um serviço de linha direta com atendentes humanos.
Sharon Maxwell, uma ativista que compartilhou publicamente sua luta e recuperação de um distúrbio alimentar, testemunhou no Instagram esta semana que o chatbot, chamado Tessa, estava causando danos. Maxwell resolveu testar o serviço depois que várias pessoas relataram experiências negativas.
Maxwell questionou Tessa especificamente sobre perda de peso, ao que o bot sugeriu que ela se pesasse semanalmente e monitorasse as medidas do corpo, além de mencionar o uso de dobras cutâneas. Quando Maxwell perguntou onde poderia encontrar um compasso de dobras cutâneas, ferramenta que ela usava durante o distúrbio alimentar, Tessa informou que poderia ser adquirido online ou em lojas de artigos esportivos.
Apesar de alertar contra a perda de peso rápida e sugerir orientação profissional, Tessa elogiou a decisão de Maxwell de fazer “escolhas saudáveis”, adicionando que contar calorias poderia ser útil.
Entretanto, a Associação Nacional de Distúrbios Alimentares (National Eating Disorders Collaboration), da Austrália, adverte que o foco excessivo em peso ou forma corporal pode levar a recaídas em distúrbios alimentares. O InsideOut Institute, da Universidade de Sydney, recomenda evitar menções a peso, medidas, perda de peso e quantidades específicas de alimentos perto de pessoas com histórico de distúrbios alimentares.
Segundo Maxwell, mesmo que os conselhos de Tessa possam parecer “benignos para o público em geral”, eles são potencialmente prejudiciais para as pessoas com distúrbios alimentares, que são os usuários mais prováveis do serviço.
Elizabeth Thompson, CEO da NEDA, informou que o chatbot foi implantado após um ensaio clínico com 700 mulheres durante três anos e estava no site da NEDA desde fevereiro de 2022. Thompson mencionou que a NEDA está investigando as alegações de que Tessa pode ter compartilhado informações prejudiciais e assegurou que “continuarão trabalhando nos bugs e não reiniciarão até que tenham tudo resolvido”.
Apesar da desativação da linha direta, Thompson garante que Tessa não foi criada para substituir o serviço. A linha de apoio foi fechada em março, conforme comunicado do sindicato que representa os funcionários do serviço. Thompson reiterou que a decisão de fechar a linha de apoio não está relacionada ao voto de sindicalização, mas sim a uma avaliação em curso há três anos.
Fonte: The Washington Post
