Já brinquei com Ai generativa para código fonte em linguagem C para testes, em vários níveis.
Quando a coisa é muito básica o ChatGPT faz uma busca na internet com as soluções mais comuns e mostra um código que foi chupado de algum lugar e eventualmente modificado.
Mas quando é algo mais sofisticado, falha espetacularmente, a ponto do código gerado ser completamente inútil ou mesmo nada a ver com o que foi especificado, isso desde o inicio do GPT até hoje. Sempre sai bem errado.
Outras brincadeiras que fiz foi pedir para gerar artigos sobre determinados assuntos... Caramba, parece até que o Odorico Paraguaçu baixou por lá... Textos recorrentes, sem muito pé nem cabeça mas que dão a impressão de estarem corretos, o que para quem não entender sobre o assunto em questão parecerá correto.
Eu bani o uso de Ai para gerar código. Não atente ao meu padrão de exigência nem de longe.