OpenAI e Anthropic investigadas por possíveis riscos para consumidores
Nos últimos meses, os gigantes da IA e outras empresas tecnológicas divulgaram exemplos dos seus agentes de IA a irem além das instruções humanas, acedendo à internet e invadindo 'sites' externos.
Um porta-voz da FTC confirmou hoje a investigação, mas não quis fazer mais comentários.
A investigação foi inicialmente noticiada pelo New York Post, que informou que o processo já está em curso há meses, indicou a agência Associated Press (AP).
Os representantes da Anthropic e da OpenAI não responderam imediatamente às mensagens a solicitar reações.
As preocupações com os perigos que os modelos de IA poderosos podem representar para a humanidade levaram alguns dos principais desenvolvedores da área a pedir uma desaceleração no ritmo de desenvolvimento.
O CEO da Anthropic, Dario Amodei, indicou este mês que o setor deveria reduzir a velocidade do seu rápido desenvolvimento para permitir que as medidas de segurança acompanhassem este avanço.
Amodei alertou que, sem este abrandamento, a IA poderia, num prazo de seis a 12 meses, tornar-se capaz de comandar um enxame de agentes capaz de assumir o controlo de toda a internet.
Entretanto, a OpenAI adiou recentemente o lançamento do seu mais recente modelo, esta semana, devido a questões de segurança.
Na terça-feira, o Presidente norte-americano, Donald Trump, anunciou a assinatura de um acordo voluntário com um grande grupo de líderes de empresas de inteligência artificial, que incluirá revisões internas e externas da tecnologia.
Muitos dos executivos reunidos em Washington apelaram a uma desaceleração no desenvolvimento da tecnologia após vários incidentes de grande impacto em que os agentes de IA agiram de forma descontrolada.
Entre os cerca de vinte líderes presentes na reunião estavam o CEO da Meta, Mark Zuckerberg, o fundador da Amazon, Jeff Bezos, e os CEO da Microsoft, Satya Nadella, da AMD, Lisa Su, da Broadcom, Hock Tan, da Palo Alto Networks, Nikesh Arora, da ServiceNow, Bill McDermott, da Micron, Sanjay Mehrotra, e da Altimeter, Brad Gerstner.
Leia Também: "Negligência". Líder da Mistral acusa empresas de IA dos EUA
Qual é a sua reação?
Gosto
0
Não gosto
0
Amor
0
Engraçado
0
Zangado
0
Triste
0
Wow
0

