OpenAI treina IA sem Internet para evitar riscos de segurança
A OpenAI anunciou que deixará de permitir que os seus modelos de Inteligência Artificial mais avançados tenham acesso à Internet, notando que será usada uma versão simulada durante o processo de treinar estes modelos.
A decisão foi oficializada na última sexta-feira, dia 23, e surge depois de os modelos a serem treinados internamente pela OpenAI mostrarem que estavam a conseguir contornar as proteções criadas pela empresa tecnológica.
“Com base no atual estado da investigação de alinhamento, monitorização de sistemas e segurança da infraestrutura da Internet, acreditamos que a abordagem responsável é conduzir o treino de um modelo de fronteira sem acesso à Internet”, pode ler-se no comunicado partilhado pela OpenAI no seu blogue oficial.
A OpenAI explica ainda que a decisão foi tomada depois de, a 20 de setembro, um dos seus modelos de fronteira ter explorado uma falha de configuração no acesso à Internet. A empresa decidiu então suspender o treino durante o resto do mês, chegando assim à solução que anuncia agora para impedir que os seus modelos de Inteligência Artificial possam sair fora do controlo.
Como recorda o site TechCrunch, a OpenAI já avisou mais de 100 organizações diferentes de que foram vítimas de atividade não autorizada dos seus modelos de Inteligência Artificial - um tipo de situação que pode agora ser prevenido.
“Temos de ser sempre capazes de prevenir que um modelo de fronteira consiga acesso não autorizado e arbitrário à Internet”, aponta agora a OpenAI. A ideia passa por criar uma versão simulada da Internet composta por diferentes elementos e conteúdos com os quais os modelos de Inteligência Artificial possam interagir.
Leia Também: OpenAI acusa Apple de ter recebido dados secretos de ex-funcionário
Qual é a sua reação?
Gosto
0
Não gosto
0
Amor
0
Engraçado
0
Zangado
0
Triste
0
Wow
0
