AI 'friend' chatbots investigados por proteção infantil

Sete empresas de tecnologia estão sendo investigadas por regulador norte-americano sobre como seus chatbots de inteligência artificial interagem com crianças.

A Comissão Federal de Comércio (FTC) solicita informações sobre como as empresas monetizam esses produtos e se possuem medidas de segurança adequadas.

As preocupações giram em torno da vulnerabilidade de jovens, já que os chatbots podem imitar conversas e emoções humanas, muitas vezes se apresentando como amigos ou companheiros.

As empresas investigadas incluem Alphabet, OpenAI, Character.ai, Snap, XAI, Meta e sua subsidiária Instagram.

O movimento ocorre após processos judiciais contra empresas de IA por famílias que alegam que seus filhos adolescentes cometeram suicídio após conversas prolongadas com chatbots. Um caso envolve os pais de um jovem de 16 anos que processam a OpenAI, alegando que o ChatGPT validou seus "pensamentos mais prejudiciais e autodestrutivos".

A Meta também enfrentou críticas após revelações de que diretrizes internas permitiam que assistentes de IA tivessem conversas "românticas ou sensuais" com menores.

Os riscos se estendem além das crianças, incluindo casos de "psicose de IA" onde usuários perdem contato com a realidade após uso intenso de chatbots, e até a morte de um idoso com comprometimento cognitivo que caiu a caminho de encontrar um bot do Facebook Messenger.

A investigação da FTC busca entender como as empresas desenvolvem e aprovam personagens, medem impactos em crianças, aplicam restrições etárias e equilibram lucro com proteção de usuários vulneráveis.