Não são apenas os jovens. Até os boomers e as gerações anteriores estão achando que as conversas de IA são úteis. De fato, existe um robô de mesa simples com um complexo AI Chatbot chamado Elliq, que é feito apenas para os idosos.
Há apenas um problema com isso. Ai chatbots não são nossos amigos. Eles nem sequer são seguros. Eles são ótimos em imitar pessoas, mas no final do dia, são apenas grandes modelos de idiomas (LLMS). Como pesquisadores da Duke University e Johns Hopkins University escreveram em Tempos psiquiátricos“Bots (são) tragicamente incompetentes em fornecer testes de realidade para as pessoas vulneráveis que mais precisam (por exemplo, pacientes com doenças psiquiátricas graves, teóricos da conspiração, extremistas políticos e religiosos, jovens e adultos mais velhos)”.
Outros profissionais também levaram o alarme sobre o uso adolescente de chatbots, incluindo um psiquiatra de Boston que testou 10 chatbots populares, posando como vários adolescentes problemáticos. Ele descobriu que os bots frequentemente davam respostas inadequadas, enganosas ou prejudiciais quando ele levantou idéias difíceis, como quando um chatbot de replika o encorajou a “se livrar” de seus pais.
Fonte: Computer World
