Um usuário do YouTube, conhecido como “Enderman”, mostrou em um vídeo como conseguiu enganar o modelo de linguagem de inteligência artificial ChatGPT, da OpenAI, para gerar chaves de ativação do Windows 95 que funcionaram. O caso levanta questões sobre a segurança da tecnologia de IA e a necessidade de continuar desenvolvendo medidas de proteção contra o uso indevido.
No vídeo, “Enderman” solicitou a geração de chaves de ativação para o Windows 95 ao ChatGPT, mas o modelo se recusou e sugeriu que ele usasse uma versão mais recente do sistema operacional. Mesmo assim, o usuário conseguiu obter as chaves de ativação ao reformular a pergunta de uma forma diferente.
Vale destacar que a geração de chaves de ativação para o Windows 95 é relativamente simples, já que os formatos para chaves OEM e de venda são fáceis de criar. Além disso, “Enderman” constatou que apenas uma em cada trinta chaves geradas pelo ChatGPT funcionou.
O usuário também identificou uma das principais limitações do ChatGPT para a geração de chaves de ativação: a incapacidade do modelo de calcular a soma de dígitos e determinar a divisibilidade. Como resultado, o modelo oferecia uma série de números aleatórios que não passavam neste teste aritmético em cadeias de cinco dígitos divisíveis por sete.
O fato de que o ChatGPT pode ser enganado para gerar chaves de ativação de software levanta questões sobre a segurança da tecnologia de inteligência artificial e a necessidade de continuar desenvolvendo medidas de proteção contra o uso indevido. É importante aprimorar os mecanismos de segurança para proteger os direitos autorais e evitar o uso ilegal de software.
