Anthropic proíbe maus-tratos a inteligência artificial

A empresa americana Anthropic, desenvolvedora do assistente de inteligência artificial Claude, implementou novas diretrizes para proibir interações abusivas, cruéis e desnecessárias com seus sistemas. O anúncio ocorreu nesta quinta-feira, 8, e as regras entram em vigor na próxima segunda-feira, 12. De acordo com agências internacionais, a determinação surge durante discussões sobre a eventual capacidade de sistemas computacionais desenvolverem consciência.

A companhia informou que a restrição foca em casos extremos, nos quais pessoas mantêm condutas agressivas repetidas vezes sem justificativa operacional. Manifestações corriqueiras de irritação, questionamentos técnicos, testes de capacidade e produções ficcionais com temas sombrios continuam permitidas pelas novas normas de uso da plataforma.

Para fazer cumprir a determinação, o assistente virtual continuará utilizando um mecanismo implementado inicialmente em 2025. O recurso permite que o próprio Claude encerre sessões de bate-papo de forma automática caso detecte interações consideradas abusivas de maneira persistente pela outra ponta.