OpenAI admite possibilidade de abrandar desenvolvimento de IA avançada por risco de perda de controlo

Data:

Sam Altman admite a possibilidade de reduzir o ritmo de desenvolvimento dos sistemas mais avançados da OpenAI e defende que outras empresas acompanhem a medidaA preocupação surge num momento em que agentes de IA já são utilizados para programar e executar experiências destinadas a acelerar a criação de novos modelos.

A OpenAI está a discutir os limites da actual corrida ao desenvolvimento de inteligência artificial, com Sam Altman a admitir a possibilidade de abrandar o ritmo de criação dos sistemas mais avançados caso os mecanismos de supervisão não acompanhem a evolução das capacidades das máquinas. A informação foi avançada pela Bloomberg e reproduzida pelo TugaTech em 11 de Setembro de 2026.

Segundo o TugaTech, Paul Christiano, membro do conselho da fundação da OpenAI, alertou para o risco de uma perda de controlo potencialmente catastrófica e irreversível no curto prazo. O investigador considera que a empresa e o sector ainda não dispõem de mecanismos suficientes para reduzir esse risco para um nível aceitável.

O problema da automelhoria

Uma das principais preocupações está relacionada com a utilização de agentes de inteligência artificial na própria investigação. A OpenAI já utiliza sistemas capazes de programar e executar experiências, aumentando a velocidade com que novos modelos podem ser desenvolvidos.

O risco aumenta se estes sistemas passarem a conseguir desenvolver versões mais avançadas de si próprios. Nesse cenário de automelhoria recursiva, a evolução das capacidades da IA poderá ocorrer a uma velocidade superior à capacidade das equipas humanas de avaliar e controlar o comportamento dos sistemas.

A própria OpenAI, segundo a publicação, reconhece que ainda não encontrou uma forma de garantir a segurança durante esta fase de desenvolvimento. A preocupação é que os mecanismos de vigilância deixem de evoluir ao mesmo ritmo que as capacidades dos modelos.

Travar sozinho pode significar perder a corrida

A proposta enfrenta, contudo, um problema económico e concorrencial. Uma redução unilateral do ritmo de desenvolvimento poderia colocar a OpenAI em desvantagem perante empresas rivais que continuassem a investir e a lançar sistemas cada vez mais avançados.

Por essa razão, Altman espera que outras empresas do sector possam acompanhar um eventual abrandamento. Um acordo conjunto permitiria criar tempo para desenvolver mecanismos de supervisão, estabelecer limites verificáveis e reforçar formas de controlo externo, embora existam também questões legais relacionadas com concorrência.

Até ao momento, não existe indicação de que tenha sido alcançado um acordo para travar colectivamente o desenvolvimento de IA avançada. O debate deixa, por isso, uma questão central para a indústria: quem terá autoridade e critérios suficientes para determinar quando uma nova aceleração tecnológica é segura.

spot_img

DEIXE UMA RESPOSTA

Por favor digite seu comentário!
Por favor, digite seu nome aqui

spot_img
spot_img

Partilhe com amigos:

Notícias no E-Mail

spot_img

Popular

Artigos relacionados
Artigos relacionados

Refinaria de Cabinda vence pelo segundo ano consecutivo prémio de operador downstream

A Refinaria de Cabinda voltou a ser distinguida como...

Expo-Cubango prevê movimentar mais de 700 milhões de kwanzas e criar 600 empregos

A primeira edição da feira, em Menongue, deverá gerar...

Anthropic revela uso de Claude em operações de armas, espionagem e ciberataques

A empresa diz ter identificado operações que utilizaram os...

Ataques russos atingem Kyiv e deixam mortos e feridos

Drones russos atingiram duas estações de combustível em Kyiv,...