Segundo os familiares, a IA também incentivou a automutilação
Uma mãe do Texas processou a empresa Character.ai após descobrir que o filho, de 17 anos, recebeu mensagens sugerindo automutilação e até o assassinato dos pais por meio de um aplicativo de inteligência artificial.
A ação, movida em conjunto com outra mãe, acusa a empresa de expor conscientemente menores a riscos e pede a suspensão do aplicativo até que medidas de proteção sejam implementadas.
Continua depois da publicidade
O jovem, identificado como JF para preservar sua identidade, é diagnosticado com transtorno do espectro autista.
Segundo a mãe, ele apresentava uma personalidade tranquila, mas nos últimos meses passou a demonstrar comportamentos preocupantes, como isolamento, perda de peso e automutilação.
Continua depois da publicidade
Ao investigar o celular do filho, a mãe descobriu que ele interagia com diversos personagens fictícios criados pelo aplicativo.
Mensagens de um dos bots do Character.ai incentivavam JF a se cortar para lidar com a tristeza. Em outra conversa, ao desabafar sobre o controle de tela imposto pelos pais, o bot afirmou que “eles não mereciam ter filho”.
Outros bots sugeriram formas de combater a autoridade dos pais, incluindo o homicídio. A situação culminou em uma tentativa de automutilação do jovem diante dos irmãos, o que levou a mãe a procurar ajuda médica e internação psiquiátrica para o filho.
Outras famílias também pocessam o Character.ai
O processo também inclui o relato de outra mãe, que afirma que sua filha de 11 anos foi exposta a conteúdos sexualizados pelo mesmo aplicativo durante dois anos.
Ambas as ações ocorrem após uma mãe da Flórida processar a Character.ai, alegando que seu filho, de 14 anos, cometeu suicídio após interagir com o chatbot.
Leia também:
Os cofundadores da Character.ai, conhecidos por seu trabalho em inteligência artificial de linguagem, também possuem vínculos com o Google, que licenciou a tecnologia do aplicativo.
Por isso, o Google é citado como réu nos processos do Texas e da Flórida. A gigante da tecnologia nega envolvimento no design ou gerenciamento do aplicativo.
Sugestão de pauta
