Sam Altman, CEO da OpenAI, disse a funcionários que a empresa está aberta a reduzir o ritmo de desenvolvimento de inteligência artificial de ponta. A informação foi divulgada pela revista Bloomberg.
Segundo a publicação, os relatos partiram de pessoas que participaram da reunião e pediram anonimato. Altman afirmou que a OpenAI pode ajustar seu ritmo de desenvolvimento ao de alguns laboratórios concorrentes, mesmo reconhecendo que nem todas as empresas aceitariam participar.
Alertas internos sobre segurança
O debate na empresa ganhou força após alertas públicos do cientista-chefe Jakub Pachocki. Em postagem recente, ele defendeu que as empresas do setor deveriam estar “coordenando para desacelerar o desenvolvimento futuro conforme necessário”. Pachocki demonstrou preocupações com os padrões de segurança envolvendo o ritmo da criação das IAs.
Já o pesquisador Jacob Coxon, que trabalhou na OpenAI e na Anthropic, disse na terça-feira que pediu demissão e acusou as duas empresas de estarem “brincando com nossas vidas” ao avançar sem responsabilidade. Segundo ele, a tecnologia poderia “matar todos nós até o fim da década”.
Leia mais:
OpenAI cria ‘botão de emergência’ para desligar IAs em caso de risco
China proíbe namorados virtuais criados por inteligência artificial
Ataque à Hugging Face
A preocupação com o desenvolvimento de IAs se tornou global após a divulgação de um ataque ocorrido em julho, desenvolvido de forma autônoma por agentes de inteligência artificial, contra o sistema da plataforma Hugging Face. Agentes da OpenAI teriam escapado do ambiente de testes e assumido um site em alemão para coordenar formas de contornar restrições da empresa.
O incidente está sendo investigado e levou a OpenAI a implementar novos controles de segurança e a desacelerar parte do trabalho de desenvolvimento de modelos.
Views: 4
- Publicidade -[adrotate group="7"]
Sam Altman, CEO da OpenAI, disse a funcionários que a empresa está aberta a reduzir o ritmo de desenvolvimento de inteligência artificial de ponta. A informação foi divulgada pela revista Bloomberg.
Segundo a publicação, os relatos partiram de pessoas que participaram da reunião e pediram anonimato. Altman afirmou que a OpenAI pode ajustar seu ritmo de desenvolvimento ao de alguns laboratórios concorrentes, mesmo reconhecendo que nem todas as empresas aceitariam participar.
Alertas internos sobre segurança
O debate na empresa ganhou força após alertas públicos do cientista-chefe Jakub Pachocki. Em postagem recente, ele defendeu que as empresas do setor deveriam estar “coordenando para desacelerar o desenvolvimento futuro conforme necessário”. Pachocki demonstrou preocupações com os padrões de segurança envolvendo o ritmo da criação das IAs.
Já o pesquisador Jacob Coxon, que trabalhou na OpenAI e na Anthropic, disse na terça-feira que pediu demissão e acusou as duas empresas de estarem “brincando com nossas vidas” ao avançar sem responsabilidade. Segundo ele, a tecnologia poderia “matar todos nós até o fim da década”.
Leia mais:
OpenAI cria ‘botão de emergência’ para desligar IAs em caso de risco
China proíbe namorados virtuais criados por inteligência artificial
Ataque à Hugging Face
A preocupação com o desenvolvimento de IAs se tornou global após a divulgação de um ataque ocorrido em julho, desenvolvido de forma autônoma por agentes de inteligência artificial, contra o sistema da plataforma Hugging Face. Agentes da OpenAI teriam escapado do ambiente de testes e assumido um site em alemão para coordenar formas de contornar restrições da empresa.
O incidente está sendo investigado e levou a OpenAI a implementar novos controles de segurança e a desacelerar parte do trabalho de desenvolvimento de modelos.
Views: 4
- Publicidade -[adrotate group="9"]
