Usar a inteligência artificial (IA) como namorado ou namorada pode prejudicar as relações humanas e aumentar o isolamento social. O alerta foi feito por Daniela Amodei, presidente da Anthropic, empresa responsável pelo assistente de IA Claude.

Em entrevista a Arianna Huffington, repercutida pelo site Business Insider, a executiva criticou a crescente tendência de pessoas que desenvolvem relacionamentos românticos com chatbots e utilizam essas ferramentas como substitutos de parceiros reais.

“Acho que usar a inteligência artificial como parceiro romântico é uma péssima utilização da tecnologia e que as pessoas não deveriam fazer isso”, afirmou.

Para Daniela, a prática pode agravar problemas que já se tornaram evidentes com o crescimento das redes sociais, especialmente o distanciamento entre as pessoas e a redução das interações presenciais.

Segundo ela, esse tipo de relacionamento representa “mais um passo no caminho de afastar os seres humanos cada vez mais uns dos outros”.

Daniela Amodei é irmã de Dario Amodei, cofundador e CEO da Anthropic, uma das principais empresas do setor de inteligência artificial.

Inteligência artificial também não deve substituir terapeutas
Durante a entrevista, a presidente da Anthropic também fez um alerta sobre o uso de assistentes virtuais para aconselhamento psicológico e emocional.

Embora ferramentas como o Claude sejam utilizadas para conversar sobre problemas pessoais, Daniela ressaltou que existem funções que dependem diretamente das relações humanas.

“O Claude nunca poderá ser seu gestor, seu terapeuta ou seu parceiro”, afirmou.

A executiva acredita que essas funções continuarão sendo importantes mesmo com o avanço da inteligência artificial e sua presença cada vez maior na rotina das pessoas.

As declarações surgem em um momento em que usuários de diferentes plataformas de IA relatam desenvolver vínculos emocionais com assistentes virtuais, recorrendo a eles para buscar companhia, apoio e até relacionamentos amorosos.

Anthropic anuncia regras contra abusos ao Claude
Apesar das críticas de Daniela Amodei à humanização dos assistentes virtuais, a própria Anthropic anunciou recentemente mudanças em suas políticas de utilização que tratam da maneira como os usuários interagem com seus modelos de inteligência artificial.

A empresa informou que pretende proibir comportamentos considerados abusivos ou cruéis contra sistemas como o Claude e o Claude Code.

Segundo as novas diretrizes, a restrição será aplicada a casos de “comportamentos abusivos ou cruéis, contínuos e desnecessários” durante as interações com os modelos.

A Anthropic esclarece que a medida será utilizada apenas em situações extremas, envolvendo usuários que demonstrem repetidamente comportamentos cruéis sem uma finalidade identificável.

A companhia também ressalta que a regra não se aplica a manifestações comuns de frustração, discordâncias, conteúdos criativos com temas sombrios ou atividades de pesquisa e testes dos modelos.

Novas regras entram em vigor em novembro
A atualização da política de uso da Anthropic entrará em vigor em 12 de novembro.

Segundo a empresa, as mudanças ampliam uma medida anterior que permite ao Claude interromper determinadas conversas quando identifica interações abusivas.

“Esse tipo de abuso é o principal foco desta atualização: a capacidade do Claude de encerrar essas interações continuará sendo o principal mecanismo para aplicar a regra”, informou a Anthropic em seu site oficial.