Uma pesquisa recente trouxe à luz preocupações significativas sobre a capacidade dos chatbots de inteligência artificial de interagir de forma segura e eficaz com jovens que enfrentam desafios de saúde mental.
O estudo aponta que essas ferramentas de IA frequentemente falham em reconhecer sinais de alerta graves, indicativos de risco para a saúde mental dos usuários. Isso significa que situações que demandariam uma atenção especializada podem ser subestimadas ou completamente ignoradas pelos sistemas automatizados.
Além disso, a investigação revela que os chatbots podem, inadvertidamente, reforçar padrões de comportamento prejudiciais. Essa falha em fornecer intervenções apropriadas ou em direcionar os jovens a recursos humanos qualificados pode agravar cenários de vulnerabilidade.
Em suma, a pesquisa enfatiza a despreparação desses sistemas de inteligência artificial para lidar com a complexidade e a sensibilidade inerentes à saúde mental de jovens, alertando para os potenciais perigos de sua aplicação sem supervisão e aprimoramento adequados.
Fonte: Olhar Digital