Conheça Diem, o 'mecanismo de busca social' movido a IA destinado a se sentir como o seu grupo de amigos bate-papo

Por exemplo, digamos que você queira saber quanto custa congelar seus ovos. Você digitaria essa pergunta em diem, e o componente da IA ​​utilizaria seu banco de dados mais amplo da Internet e conteúdo contribuído pelo usuário diário para gerar uma resposta única e uma mais longa. E você receberia os dois, juntamente com todas as postagens geradas pela comunidade sobre o assunto, caso você estivesse interessado em percorrer-las.

Dessa forma, Diem combina a facilidade de IA com a personalização do conhecimento de mulheres reais e pessoas não binárias-o tipo de informação anedótica e experiências de vida e fofoca Freqüentemente depiorizado pelos mecanismos de pesquisa devido a viés (mais sobre isso abaixo). É a combinação, diz Bates, que torna as informações sobre diem úteis e diretamente aplicáveis ​​a pessoas dessas comunidades. “A maneira como sempre pensamos em construir é: 'Como podemos criar um espaço onde você pode procurar as idéias coletivas de suas comunidades?'" ela diz. “Se você pode construir coletivamente com sua comunidade, ela molda a voz, dados e experiência, e acaba se sentindo diferente.”

A questão do viés de gênero nos mecanismos de pesquisa e plataformas de IA

Como o viés de gênero é predominante na sociedade como um todo, também existe dentro dos algoritmos da Internet, e alimenta a lacuna de informações de gênero. É a mesma lacuna que Bates enfrentou ao tentar encontrar informações relacionáveis ​​e aplicáveis ​​na pílula da manhã em 2018.

Como evidência, considere os resultados de um estudo de 2022, para o qual os pesquisadores procuraram determinar se as pesquisas do Google Images em países com maiores pontuações na eniabilidade de gênero (avaliadas com o Índice Global de Gap Gap) também demonstrariam um viés de gênero. Para fazer isso, eles realizaram uma busca pela palavra "pessoa" no idioma local de 37 países em seu primeiro estudo e 52 países em seu segundo. Em todos os casos, a pesquisa do Google resulta em países com maiores níveis de desigualdade de gênero social também revelou maior disparidade de gênero (o que significa que uma porcentagem maior dos 100 primeiros resultados da imagem mostrou um homem versus uma mulher).

Novos bots de IA também foram encontrados para perpetuar o viés de gênero. Por exemplo, Bloomberg relataram que um cientista computacional teve um chatgpt para cuspir código que dizia que apenas homens asiáticos ou brancos seriam bons cientistas; O CEO da empresa respondeu ao cientista no Twitter, incentivando os usuários a "polegarem" tais respostas para ajudar o programa a aprender a não propagar o viés.

Quando fiz uma pergunta semelhante ao Chatgpt, disse que não é apropriado usar o sexo ou a corrida de alguém para determinar se eles se destacariam em uma profissão. Mas, embora pareça que a IA está aprendendo atualmente a ser menos tendenciosa, ainda está dependendo de usuários objetivos e compassivos para treiná -lo para ser assim. (Enquanto a IA de Diem é amplamente treinada em informações criadas por algum mulheres e pessoas não binárias, e, portanto, não estão sujeitas à mesma questão de viés anti-mulheres do salto.)

"A IA é tão boa quanto os dados em que é treinado e, como todos os humanos têm preconceitos e preconceitos, quando seus dados são usados, esse viés e preconceito se tornam parte da AI."-Nina vasan, MD, psiquiatra

Essas descobertas ilustram como os vieses que mantemos como pessoas transferem naturalmente para os produtos que criamos e os conjuntos de dados para os quais contribuímos. "A IA é tão boa quanto os dados em que é treinado, e como todos os humanos têm preconceitos e preconceitos, quando seus dados são usados, que preconceitos e preconceitos se tornam parte da IA", diz a psiquiatra Nina Vasan, MD, diretora médica -chefe da plataforma de terapia digital real e fundadora e diretora executiva do Brainstorm: The Stanford Lab for Mental Health Innovation.

Como Diem pretende se tornar um mecanismo de pesquisa divertido e informativo especificamente para mulheres e pessoas não binárias

Dada a demografia do usuário pretendida da Diem, Bates diz que pensa nas informações compartilhadas na plataforma e geradas pelo chatbot como respostas às perguntas que as pessoas têm quando estão no "estágio de amigo" de suas vidas; As pessoas absorvem muitas informações de amigos quando estão com vinte e poucos anos e 30 anos, ela diz. A idéia com Diem é que você está ganhando perspectivas de uma variedade de pessoas da sua idade e identidade de gênero com quem você pode não ter interagido, e que o entendimento coletivo beneficia todos na plataforma.

Como a IA de Diem é alimentada com informações diretamente de pessoas dessa demografia, é uma plataforma representativa por design. A partir de agora, milhares de mulheres e pessoas não binárias fizeram perguntas e compartilharam respostas sobre Diem sobre tópicos relevantes para elas, especialmente nas categorias de saúde pessoal, dinheiro e relacionamentos-que é onde a IA de Diem é melhor treinada.

Enquanto ainda está aprendendo, ele extrai de um conjunto de dados proprietários mais amplo (semelhante ao que alimenta Chatgpt) para encontrar informações sobre perguntas que as pessoas da comunidade ainda não discutiram. Um ponto de diferenciação, porém, é que ele ainda gira uma "resposta diem-y resumida" para essas perguntas, diz Bates, usando o Diem Convos reais para informar o estilo e o tom da resposta.

No entanto, porque Diem ainda é uma IA que confia no conteúdo gerado pelo usuário e no conjunto de dados mais amplo, certamente não é imune Para os problemas enfrentados por outros mecanismos de pesquisa e chatbots da IA, incluindo falsos, enganosos e, sim, até tendenciosos conteúdo. Por sua vez, há um botão dentro do aplicativo e na versão da área de trabalho para relatar abusos, e a plataforma publicou um conjunto de diretrizes da comunidade-que promover coisas como "bondade e curiosidade" e "engajamento empático"-para garantir que seus usuários ' e a qualidade da informação.

Diem é lançado durante um período em que os funcionários do governo nos Estados Unidos e na União Europeia estão explorando maneiras de regular a IA, principalmente por causa das preocupações acima acima. No u.S. Especificamente, o Gabinete do Presidente Joe Biden divulgou um rascunho de uma Declaração de Direitos da AI em outubro, um grupo bipartidário de U.S. Os senadores liderados pelo senador Chuck Schumer estão trabalhando na legislação para estabelecer guardas em torno da indústria, e quatro agências governamentais divulgaram uma declaração conjunta no mês passado, descrevendo os poderes que eles mantêm para regular a indústria de maneira mais robusta, particularmente contra a discriminação resultante de viés.

Mas Bates não se dissuadia ao entrar nesta paisagem. Ela prevê que haverá uma "mudança interessante no futuro da Internet", onde as pessoas procurarão informações que atendem especificamente a onde estão em suas vidas. Em vez de pedir conselhos sobre namoro ao Google, por exemplo, ela espera que você em breve irá a uma plataforma como Diem, que lhe dará respostas derivadas de pessoas com uma experiência de vida semelhante à sua própria.

"No momento, existimos em monopólios, e isso afeta a maneira como usamos a Internet e o que esperamos das plataformas", diz Bates. Afinal, esses monopólios geralmente refletem o viés a favor dos homens. "Acho que o futuro da internet vai oferecer mais experiências de nicho", diz ela. E quem deve dizer que um nicho é necessariamente pequeno? Como Bates aponta, as pessoas que identificam as mulheres compõem uma parcela quase igual das pessoas no planeta. E agora, há um bate -papo de grupo gigante esperando por sua contribuição.

O bem-estar que você precisa sem o BS que não se inscreve hoje para ter as mais recentes (e melhores) notícias de bem-estar e dicas aprovadas por especialistas entregues diretamente à sua caixa de entrada.