Na coluna de hoje, examino uma nova lei em Vermont sobre o uso de IA para aconselhamento em saúde mental. No geral, a lei está em linha com muitos outros estados que promulgaram leis semelhantes. Não há condições especialmente incomuns ou requisitos extraordinários.
Isso dito, a lei de Vermont é um veículo útil para considerar uma estipulação frequente e potencialmente desafiadora nesses novos estados emergentes sobre a supervisão da IA para saúde mental. A indicação-chave na maioria dessas leis é que um terapeuta ou profissional de saúde mental deve estar em algum lugar “no circuito” e servir como revisor e potencial aprovador de quaisquer recomendações de saúde mental ou saídas semelhantes da IA.
À primeira vista, isso faz sentido. Um terapeuta profissional presumivelmente pegará a IA ao fornecer conselhos de saúde mental inadequados ou equivocados aos usuários. Uma preocupação é que terapeutas desempenhando esse papel de supervisão potencialmente caiam em uma armadilha clássica, ou seja, eles começarão a carimbar o que a IA diz. Isso é bastante possível e geralmente devido ao terapeuta ser induzido a acreditar que a IA está sempre certa, além do terapeuta poder estar ocupado demais para revisar completamente o que a IA disse, e, do contrário, um terapeuta pode fazer uma avaliação superficial por uma variedade de razões. Alguns afirmam que essas novas leis de IA precisam colocar requisitos muito mais rígidos para que os terapeutas permaneçam completamente diligentes e permaneçam alertas quando se trata de conversas de IA.
Vamos falar sobre isso.
Esta análise dos avanços em IA faz parte da minha cobertura contínua da coluna da Forbes sobre as últimas novidades em IA, incluindo a identificação e explicação de várias complexidades impactantes da IA (veja o link aqui).
