OpenAI vai identificar texto e código gerado com Inteligência Artificial
A União Europeia adotou, no começo de agosto, novas regras para haver maior transparência em relação à Inteligência Artificial e a OpenAI - a empresa responsável pelo ChatGPT - apresentou agora medidas para cumprir a legislação europeia.
Em breve, todos os textos e códigos e gerados pela Inteligência Artificial da OpenAI passarão a contar com “marcas de água” invisíveis, as quais permitirão identificar o uso de ferramentas da empresa.
A OpenAI revela que, para integrar estas “marcas de água”, usou um sistema próprio chamado textGrain, o qual “adiciona um sinal estatístico invisível às escolhas de palavras do modelo”. Assim que este elemento seja adicionado, um detetor consegue identificá-lo e perceber se o texto ou código foi gerado com Inteligência Artificial.
Apesar de notar que este sistema “igualou ou excedeu” o desempenho de identificadores semelhantes já disponíveis no mercado, a OpenAI não garante que esta tecnologia funcione em todas as situações.
A empresa adianta que “um forte desempenho sob condições ideais não garante uma deteção confiável no uso quotidiano”.
Por enquanto parece que há alguns obstáculos à fiabilidade deste sistema, como é o caso de textos mais curtos ou com edição. A matemática também se afigura como um problema e que nem sempre é possível identifica quando foi usada tecnologia de Inteligência Artificial para resolver problemas.
Sabe-se que estas “marcas de água” não serão ativadas por defeito nas ferramentas de Inteligência Artificial da empresa, notando que apenas acontecerá “texto elegível do ChatGPT e do Codex na União Europeia”. Mais ainda, os utilizadores terão de ativar o sistema em “determinados modelos”.
Mais ainda, o acesso começará por estar limitado a “investigadores aprovados e organizações especialistas”, com a OpenAI a não ter especificado quais serão.
Leia Também: OpenAI despede funcionários por partilha de dados confidenciais
Qual é a sua reação?
Gosto
0
Não gosto
0
Amor
0
Engraçado
0
Zangado
0
Triste
0
Wow
0

