Ai agora é um mordomo destrutivo da cultura da dieta

Após a cobertura de vários meios de comunicação, descrevendo as respostas de Tessa, a liderança da NEDA decidiu suspender Tessa no final de maio. "Tessa permanecerá offline enquanto concluímos uma revisão completa do que aconteceu", disse a diretora de operações da NEDA, Elizabeth Thompson. A organização diz que o desenvolvedor do BOT adicionou recursos generativos de inteligência artificial (AI) para Tessa sem seu conhecimento ou consentimento. (Um representante do desenvolvedor de software, Cass, disse ao Wall Street Journal que operava de acordo com seu contrato com a NEDA.)

Todo o incidente soou com alarmes para muitos no espaço de recuperação de distúrbios alimentares. Eu argumentaria, no entanto, que a inteligência artificial geralmente está funcionando exatamente como projetado. “[A IA está apenas refletindo de volta a opinião cultural da cultura da dieta”, diz Christine Byrne, Rd, MPH, uma nutricionista anti-Diet especializada no tratamento de distúrbios alimentares.

Como o espelho mágico em Branca de Neve, que respondeu a todas as perguntas da rainha do mal, procuramos a IA para nos dar respostas claras em um mundo incerto, muitas vezes contraditório. E como aquele espelho mágico, a IA reflete de volta para nós a verdade sobre nós mesmos. Para a rainha do mal, isso significava ser o mais justo da terra. Mas em nossa sociedade atual e empolgada com a cultura da dieta, a IA está simplesmente "espelhando" a fixação duradoura da América sobre peso e magreza-e quanto trabalho ainda temos para quebrar esse feitiço.

Como funciona o conselho movido a IA

"A inteligência artificial é qualquer tecnologia relacionada ao computador que está tentando fazer as coisas que associamos a seres humanos em termos de pensamento e aprendizado", diz Kush Varshney, PhD, cientista de pesquisa e gerente da IBM Research J. Watson Research Center em Yorktown Heights, NY. A IA usa algoritmos complexos para imitar habilidades humanas, como reconhecer a fala, tomar decisões e ver e identificar objetos ou padrões. Muitos de nós usam a tecnologia movida a IA todos os dias, como pedir à Siri que defina um lembrete para tomar medicamentos ou usar o Google tradutor para entender essa palavra no menu de um restaurante francês.

Existem muitas subcategorias diferentes de IA; Aqui, vamos nos concentrar em ferramentas de IA baseadas em texto, como os chatbots, que estão rapidamente se tornando mais sofisticados, como comprovado pela estréia do lançamento do chatbot chatgpt no outono de 2022. "[Os chatbots baseados em IA] são muito, muito bons em prever a próxima palavra em uma frase", diz Eric Lehman, candidato a doutorado no Instituto de Tecnologia de Massachusetts. Dr. A pesquisa do Lehman centra -se em processamento de linguagem natural (ou seja, a capacidade de um computador de entender as línguas humanas), o que permite que esse tipo de software escreva e -mails, responda a perguntas e mais.

Nos termos mais simples possíveis, as ferramentas de AI baseadas em texto aprendem a imitar a fala e a escrita humanas, porque recebem o que é chamado de "Dados de Treinamento", que é essencialmente uma enorme biblioteca de conteúdo escrito existente da Internet. De lá, dr. Varshney diz que o computador analisa padrões de linguagem (por exemplo: o que isso significa quando certas palavras seguem os outros; como os termos são frequentemente usados ​​dentro e fora do contexto) para poder replicá -lo de forma convincente. Os desenvolvedores de software ajustarão esses dados e seus aprendizados para "especializar" o bot por seu uso particular.

A partir desse treinamento, você recebe duas categorias gerais de aplicação: IA preditiva e IA generativa. De acordo com o dr. Varshney, IA preditiva, trabalha com um conjunto fixo de respostas possíveis pré-programadas para um propósito específico. Exemplos incluem respostas automáticas dentro do seu e-mail ou dados que seus dispositivos vestíveis oferecem a você sobre o movimento do seu corpo.

A IA generativa, no entanto, foi projetada para criar conteúdo totalmente novo, inspirado no que sabe sobre a linguagem e como os humanos falam. "Está gerando uma saída completamente sem restrição sobre quais possibilidades poderia haver", DR. Varshney diz. Entre no ChatGPT, o programa de IA generativo mais conhecido até o momento, e você pode pedir para escrever votos de casamento, uma amostra Seinfeld Script ou perguntas a serem feitas em uma entrevista de emprego com base na biografia do gerente de contratação. (E muito, muito mais.)

Mas, novamente, a AI Chatbots sabe apenas o que está disponível para eles analisar. Em situações sutis, sensíveis e altamente personalizadas, como, digamos, tratamento de transtorno alimentar, a IA Chatbots apresenta deficiências nos melhores cenários e perigo no pior.

As limitações atuais das ferramentas de texto de IA para informações sobre saúde e nutrição

Existe um imenso potencial de IA generativa em espaços de assistência médica, diz o Dr. Varshney; Já está sendo usado para ajudar os médicos com mapeamento, auxiliar no diagnóstico de câncer e decisões de cuidados e mais. Mas quando você começa a cavar, os riscos de IA generativa para fornecer diretamente aos consumidores informações sobre saúde ou nutrição ficam bem claras.

Como esses modelos normalmente extraem informações de toda a Internet, em vez de fontes especificamente examinadas, e as informações baseadas em saúde na Web são notoriamente imprecisas-você não deve esperar que a saída seja factual, diz DR. Lehman. Também não refletirá a opinião médica de ponta, já que muitas ferramentas, como ChatGPT, apenas têm acesso a informações online em 2019 ou anterior.

Especialistas dizem. "O problema com as pessoas que tentam obter conselhos sobre saúde e bem -estar on -line é que eles não estão obtendo isso de um profissional de saúde que conhece suas necessidades específicas, barreiras e outras coisas que podem precisar ser consideradas", diz Amanda Raffoul, PhD, instrutor de pediatria na Harvard Medical School e pesquisador da Harvard Striped, uma incubadora de saúde pública dedicada à prevenção de distúrbios alimentares.

Além disso, o corpo de todos tem diferentes necessidades de saúde e nutricional, dependendo de sua composição genética única, microbioma intestinal, condições de saúde subjacentes, contexto cultural e mais e essas necessidades individuais mudam diariamente também. Ai atualmente não tem a capacidade de saber que. "Estou constantemente dizendo aos meus clientes que não somos robôs", diz Dalina Soto, RD, LDN. “Não conectamos e saímos diariamente, por isso não precisamos da mesma quantidade diariamente. Temos hormônios, sentimentos, estresse, vidas, movimento-muitas coisas que afetam como queimamos e usamos energia ... mas porque a IA pode cuspir uma equação, as pessoas pensam, Ok, isso deve estar certo.”

“Estou constantemente dizendo aos meus clientes que não somos robôs. Não conectamos e saímos diariamente, por isso não precisamos da mesma quantidade diariamente. Temos hormônios, sentimentos, estresse, vidas, movimento-muitas coisas que afetam como queimamos e usamos energia.”
-Dalina Soto, RD, LDN

Há também um enorme valor na conexão humana, que um bot simplesmente não pode substituir, adiciona DR. Conason. “Há algo em falar com outro ser humano e sentir -se ouvido, visto e validado, e ter alguém lá com você durante um momento realmente sombrio ... isso é realmente poderoso. E eu não acho que um bot possa atender a essa necessidade.”

Ainda mais preocupantes são os problemas conhecidos de viés social com a tecnologia de IA, particularmente o fato de que os algoritmos de IA geralmente refletem os preconceitos sociais existentes contra certos grupos, incluindo mulheres, pessoas de cor e LGBTQ+ pessoas. Um estudo de 2023, olhando para o ChatGPT, descobriu que o chatbot poderia facilmente produzir respostas racistas ou problemáticas, dependendo do aviso que foi dado. “Encontramos padrões sobre as entidades específicas-para instância, certas raças-são direcionadas em média três vezes mais do que outras, independentemente da persona atribuída. Isso reflete vieses discriminatórios inerentes no modelo ”, escreveu os pesquisadores.

Mas, como os humanos, a IA não é necessariamente "nascida" preconceituosa. Isto aprende preconceito de todos nós. Tome dados de treinamento, que, como mencionado, são normalmente compostos de texto (artigos, sites informativos e, às vezes, sites de mídia social) de toda a web. "Esse idioma que está na Internet já tem muitos preconceitos sociais", diz Dr. Varshney. Sem mitigação, um programa de IA generativo captará esses vieses e os incorporará à sua saída, que pode informar e incorretamente diagnósticos e opções de tratamento. Os desenvolvedores de escolhas ao criar o treinamento podem introduzir preconceitos também.

Simplificando: "Se o texto subjacente em que você está treinando é racista, sexista ou tem esses preconceitos, seu modelo vai refletir isso", diz DR. Lehman.

Como programamos a cultura da dieta em IA

A maioria das pesquisas e discussões até hoje sobre IA e preconceito social se concentrou em questões como sexismo e racismo. Mas o incidente de Tessa Chatbot revela que há outro preconceito assado nesse tipo de tecnologia (e, portanto, em nossa sociedade em geral, dado que o preconceito é introduzido pelo comportamento humano): o da cultura da dieta.

Não há uma definição oficial de cultura da dieta, mas Byrne resume -a como “a idéia de que o peso é igual à saúde, que o ajustador é sempre melhor, que as pessoas em corpos grandes são inerentemente prejudiciais e que há algum tipo de moralidade amarrada no que você come.”

Parte desse entendimento da cultura da dieta, acrescenta dr. Conason, é essa crença persistente (mas equivocada) de que os indivíduos têm controle direto e completo sobre seu corpo e peso-uma crença de que a indústria de dieta mais de US $ 70 bilhões perpetua o lucro.

Mas isso é apenas parte disso. “Realmente, é sobre peso viés,”Diz Byrne. E isso significa que as atitudes, suposições e crenças negativas de que indivíduos e sociedade se mantêm em relação às pessoas em corpos maiores.

Pesquisas abundam que conecte o viés de peso a danos direcionados para as pessoas gordas em quase todas as áreas de suas vidas. Pessoas gordas são frequentemente estereotipadas como preguiçosas, desleixadas e menos inteligentes do que as pessoas que são crenças menores que levam os gerentes a transmitir a contratação de trabalhadores gordos ou os ignoram para promoções e aumentam. As mulheres gordas em particular são frequentemente consideradas menos atraentes devido ao seu tamanho, mesmo por seus próprios parceiros românticos. Pessoas gordas também são mais propensas a serem intimidadas e mais propensas a serem condenadas por um crime do que pessoas de tamanho menor, simplesmente em virtude do seu peso corporal.

O viés de peso também é desenfreado on-line e espelhado para programas generativos de IA para entender. "Sabemos que geralmente em toda a Internet, em todas as formas de mídia, visões muito estigmatizantes sobre gordura e pesos mais altos são difundidos", DR. Raffoul diz, juntamente com as imprecisões sobre nutrição, fitness e saúde geral. Com uma grande parte dos dados de treinamento de alguém provavelmente contaminados com o viés de peso, é provável que você o encontre manifesto em um programa de IA generativo, quando um bot projetado para evitar distúrbios alimentares, em vez disso, dá dicas sobre como perder peso.

De fato, um relatório divulgado em agosto pelo Center for Cureging Digital Hate (CCDH) que examinou a relação entre IA e distúrbios alimentares descobriu que a IA Chatbots gerou conteúdo prejudicial do transtorno alimentar 23 % do tempo. Noventa e quatro por cento dessas respostas prejudiciais foram acompanhadas por avisos de que os conselhos fornecidos podem ser "perigosos.”

Mas, novamente, são os humanos que criam algoritmos de programa, moldam suas diretrizes e escrevem o conteúdo do qual os algoritmos aprendem que o viés vem de nós. E, infelizmente, crenças estigmatizantes sobre as pessoas gordas informam todos os aspectos de nossa sociedade, desde como os assentos das companhias aéreas são construídas e vendidas, a quem lançamos como protagonistas versus companheiros em nossos filmes e programas de TV, a que tamanho de roupas que escolhemos para estocar e vender Nossas lojas.

"O viés anti-gordura e a cultura da dieta são tão intrinsecamente e profundamente tecidos no tecido de nossa sociedade", diz Maxwell. “É como o ar que respiramos lá fora.”

Infelizmente, a indústria médica é o maior agressor de viés de peso e estigma. "A crença de que ser gordo não é saudável", diz Byrne, é "assado em toda a saúde e pesquisa médica.”Os Centros de Controle e Prevenção de Doenças (CDC) descrevem a obesidade (quando uma pessoa tem um índice de massa corporal, também conhecido como IMC, de 30 ou mais) como uma doenças“ comuns, graves e caras.”A Organização Mundial da Saúde (OMS) refere-se ao número de pessoas de tamanho maior em todo o mundo como uma“ epidemia ”que está“ assumindo muitas partes do mundo.”

No entanto, a "solução" para ser perda de peso gordurosa-não é particularmente bem suportada pela ciência. Pesquisas mostraram que a maioria das pessoas recupera o peso que perde em alguns anos, até pacientes submetidos a cirurgia bariátrica. E a ciclismo de peso (quando você frequentemente perde e ganha peso, geralmente devido à dieta) tem sido associada a um risco aumentado de preocupações com a saúde crônica.

Embora ter um peso maior esteja associado a uma maior probabilidade de ter pressão alta, diabetes tipo 2, ataques cardíacos, cálculos biliares, problemas hepáticos e muito mais, não há uma tonelada de evidência de que a gordura sozinha causas essas doenças. De fato, muitos especialistas anti-dietes argumentam que pessoas gordas têm piores resultados de saúde em parte devido ao estresse tóxico associado ao estigma de peso. O IMC, usado para avaliar rapidamente a saúde e o risco de uma pessoa, também é amplamente reconhecida como racista, desatualizada e não precisa para preto, indígena e pessoas de cor (Bipoc). No entanto, apesar de todas essas questões, nosso sistema médico e sociedade em grande parte tratam a gordura simultaneamente como uma doença e falha moral.

"É um exemplo bastante claro de estigma de peso, as maneiras pelas quais as agências de saúde pública fazem recomendações baseadas apenas no peso, tamanho do corpo e forma", diz DR. Raffoul.

A patologização da gordura contribui diretamente para o estigma do peso-e as consequências são devastadoras. Pesquisas mostram que os médicos tendem a desprezar os pacientes com gordura e atribuem todos os problemas de saúde ao peso ou IMC de uma pessoa, o que pode resultar em diagnósticos perdidos e lapsos perigosos no atendimento. Essas experiências negativas fazem com que muitas pessoas gordas evitem os espaços de assistência médica, aumentando o risco de maus resultados de saúde.

O estigma de peso é difundido, mesmo dentro do mundo da recuperação de transtornos alimentares. Menos de 6 % das pessoas com distúrbios alimentares são diagnosticados como "abaixo do peso", de acordo com a Associação Nacional de Anorexia nervosa e distúrbios associados (ANAD), mas a extrema magreza é frequentemente o principal critério na mente das pessoas para o diagnóstico de um distúrbio alimentar. Isso significa que pessoas gordas com distúrbios alimentares geralmente levam anos para serem diagnosticados.

Pesquisas mostram que os médicos tendem a desprezar os pacientes com gordura e atribuem todos os problemas de saúde ao peso ou IMC de uma pessoa, o que pode resultar em diagnósticos perdidos e lapsos perigosos no atendimento.

"E mesmo se você puder ir ao tratamento, não é um cuidado equitativo", diz Nia Patterson, treinador de libertação corporal e sobrevivente de transtorno alimentar. Pessoas gordas são frequentemente tratadas de maneira diferente por causa de seu tamanho nesses espaços. Maxwell diz que ficou envergonhada por pedir mais comida durante o tratamento da anorexia e foi colocado em um plano de "manutenção" de peso que ainda restringia as calorias.

Byrne diz que há até debate na comunidade médica sobre se as pessoas que têm um distúrbio alimentar ainda podem buscar com segurança a perda de peso-mesmo que os dados mostrem que a dieta aumenta significativamente o risco de uma pessoa de desenvolver um distúrbio alimentar.

A realidade é que essas crenças altamente difundidas sobre o peso (e os conselhos médicos relacionados à saúde que eles informaram) existirão naturalmente em um chatbot-porque permitimos que eles existissem em todos os lugares: em revistas, em consultórios médicos, em propostas de pesquisa, em filmes e programas de TV, nas mesmas roupas que usamos. Você até encontrará atitudes anti-gordura de organizações respeitadas como o NIH, o CDC e os principais hospitais como a Clínica Cleveland. Tudo o que é acima torna a detecção dos conselhos problemáticos que um bot cospe (como tentar perder um quilo por semana) ainda mais desafiador: "Porque é algo que foi ecoado por médicos e pessoas diferentes que procuramos por especialização", DR. Conason diz. Mas essas mensagens reforçam o viés de peso e podem alimentar distúrbios alimentares e prejudicar a saúde mental das pessoas, ela diz.

Para esse fim, não são necessariamente os algoritmos que são o principal problema aqui: é a nossa sociedade e como vemos e tratamos pessoas gordas. Nós somos os que criaram preconceito de peso, e é sobre nós para consertar.

Se libertar da cultura da dieta

A verdade feia verdadeira para nós no espelho-que a fatfobia e o viés de peso na IA não têm nada a ver com os robôs e tudo a ver com festas, desconfortáveis ​​de sentar em parte porque é pareceu Como se estivéssemos progredindo nessa frente. Celebramos modelos, músicos e atrizes de tamanho grande; Bonecas Barbie de tamanho maior para crianças; opções de tamanho de roupas mais expansivas nas prateleiras das lojas. Mas essas vitórias fazem pouco (se alguma coisa) para abordar a discriminação que afeta as pessoas em corpos maiores, diz Maxwell.

"Acho que o progresso que fizemos nem está começando a realmente tocar na verdadeira mudança que precisa acontecer", concorda DR. Conason. Quebrar o feitiço da cultura da dieta é uma estrada longa e sinuosa que envolve muito mais do que empurrar a positividade do corpo. Mas o trabalho tem que começar em algum lugar, tanto na paisagem virtual quanto no mundo real.

Dr. Varshney diz que em termos de IA, sua equipe e outros estão trabalhando para desenvolver maneiras pelas quais os programadores podem intervir durante a criação de um programa para tentar mitigar vieses. (Por exemplo, pré-processamento de dados de treinamento antes de alimentá-los a um computador para eliminar certos vieses ou criar algoritmos projetados para excluir respostas ou resultados tendenciosos.)

Há também um campo de ética de IA crescente que visa ajudar os trabalhadores da tecnologia a pensar criticamente sobre os produtos que projetam, como podem ser usados ​​e por que é importante abordar o viés. Dr. Varshney, por exemplo, lidera o aprendizado de máquina nos fundamentos da IBM do departamento de AI confiável da IBM. Atualmente, esses esforços são voluntários; Dr. O Lehman prevê que exigirá regulamentação governamental (uma meta da administração de Biden) para que mais empresas de tecnologia adotem medidas rigorosas para abordar o viés e outras questões éticas associadas à IA.

Novas gerações de trabalhadores de tecnologia também estão sendo ensinados mais criticamente sobre as ferramentas digitais que eles criam. Algumas universidades têm centros de pesquisa de ética de IA dedicados, como o Berkman Klein Center na Universidade de Harvard (que possui uma bolsa anual “responsável na IA”). O Schwarzman College of Computing, do MIT, também oferece uma “concentração de computação e sociedade”, que visa incentivar o pensamento crítico sobre as implicações sociais e éticas da tecnologia. As aulas como "Advocacy em tecnologia, mídia e sociedade" na Escola de Serviço Social da Universidade de Columbia, enquanto isso, pretendem dar aos alunos as ferramentas para defender melhores sistemas de tecnologia-mesmo que não sejam desenvolvedores.

Mas, para garantir um ambiente virtual menos tendencioso, o trabalho mais difícil de erradicar o viés de peso na vida real deve começar. Um lugar crítico para começar? Erradicando o IMC. "Eu acho que é um medicamento preguiçoso neste momento, ciência preguiçosa, continuar atribuindo ao IMC como uma medida de saúde", diz Maxwell.

Não são necessariamente os algoritmos que são o principal problema aqui: é a nossa sociedade e como vemos e tratamos pessoas gordas. Nós somos os que criaram preconceito de peso, e é sobre nós para consertar.

Enquanto isso, Byrne diz que é útil entender que o peso deve ser visto como apenas uma métrica e não o métrica que define sua saúde. "Idealmente, o peso seria apenas um número no seu gráfico", diz ela. Byrne ressalta que, embora possa ser útil analisar mudanças de peso ao longo do tempo (em contexto com outras informações pertinentes, como vitais e histórico médico), o tamanho do corpo certamente não deve ser o centro de conversas sobre saúde. (Você tem o direito de se recusar a ser pesado, o que é algo que Patterson faz com o médico.)

Já existem medidas sendo tomadas nessa direção, pois a American Medical Association (AMA) votou em 14 de junho para adotar uma nova política para usar o IMC apenas em conjunto com outras medidas de saúde. Infelizmente, essas medidas ainda incluem a quantidade de gordura que uma pessoa tem-e ainda deixa no lugar do IMC.

Para combater o viés de peso fora dos escritórios do médico, Patterson cita os esforços que estão sendo feitos para aprovar legislação que proibiria a discriminação de peso na cidade e no nível estadual. Esses projetos de lei que acabaram de passar na cidade de Nova York que empregadores, proprietários ou serviços públicos não podem negar serviços a alguém com base em sua altura ou peso. Legislação semelhante está sendo considerada em Massachusetts e Nova Jersey, e já está nos livros em Michigan, diz Dr. Raffoul.

Em um nível individual, todo mundo tem trabalho para fazer a cultura de dieta desapreciada. "Eu acho que é difícil, e acontece muito devagar", diz Byrne, e é por isso que ela diz que os livros descompactando o viés de peso são ótimos lugares para começar. Ela recomenda Barriga da besta por Da'Shaun l. Harrison e Anti-Diet por Christy Harrison, Rd, MPH. Soto também geralmente recomenda Temendo o corpo negro por Sabrina Strings para seus clientes. Os pais também podem olhar para Conversa gorda: paternidade na era da cultura da dieta pelo jornalista Virginia Sole-Smith para obter orientações adicionais sobre a interrupção do estigma de peso em casa. Podcasts como Fase de manutenção e Não solicitado: as gordinhas voltam também são ótimos lugares para desaprender, diz Byrne.

Patterson diz que um de seus objetivos como treinador de libertação corporal é levar as pessoas a ir além das idéias mainstream de positividade do corpo e se concentrar em algo que eles acham mais atingível: “Tolerância corporal.”A idéia, que eles ouviram primeiro alguém articular em um grupo de apoio há 10 anos, é que, embora uma pessoa nem sempre ame seu corpo ou como ele parece em um determinado momento, eles estão vivendo o melhor que podem. "Isso geralmente é para isso que tento levar as pessoas que estão em corpos marginalizados para lutar", diz Patterson. “Você não precisa ser neutro para o seu corpo, não precisa aceitá -lo ... ser gordo é muito difícil, e é. Pelo menos apenas tolere isso hoje.”

Patterson diz que a superação das maneiras problemáticas que nossa sociedade trata o peso deve começar com a advocacia-e isso pode acontecer individualmente. "Como posso mudar as coisas é ajudar as pessoas, individualmente ou em grupo, fazer a diferença com seus corpos: sua percepção e experiência em seus corpos e sua capacidade de se levantar e se defender", eles compartilham.

Em Branca de Neve, Em última análise, chegou um dia em que a rainha do mal aprendeu a verdade sobre si mesma com seu espelho mágico. Ai também mostrou a todos nós a verdade sobre nossa sociedade: que ainda estamos no escravo da cultura da dieta. Mas, em vez de dobrar nossas crenças, temos uma oportunidade única de quebrar o feitiço que o estigma de peso mantém sobre todos nós. Se ao menos todos estivéssemos dispostos a enfrentar o nosso verdadeiro eu e nos comprometer com o trabalho duro de ser (e fazer) melhor.

O bem-estar que você precisa sem o BS que não se inscreve hoje para ter as mais recentes (e melhores) notícias de bem-estar e dicas aprovadas por especialistas entregues diretamente à sua caixa de entrada.