Um ex-funcionário da OpenAI diz que a corrida para superar a China poderia empurrar uma IA insegura para o mundo - Business Insider

# A corrida para superar a China pode colocar IA insegura no mundo, diz um ex-funcionário da OpenAI O "segredo aberto" da indústria de IA é que as empresas estão correndo para desenvolver sistemas de IA poderosos sem os devidos mecanismos de segurança, de acordo com um ex-funcionário da OpenAI. Leopold Aschenbrenner, que trabalhou na OpenAI como pesquisador de alinhamento de IA, disse à Business Insider que a competição global está levando os desenvolvedores a acelerar o lançamento de modelos avançados sem garantir que eles sejam seguros ou controláveis. "É um segredo aberto na indústria que a corrida para superar a China está nos empurrando para lançar sistemas que não sabemos como controlar", disse Aschenbrenner em uma entrevista recente. ## A corrida armamentista da IA Aschenbrenner, que deixou a OpenAI no ano passado, descreveu uma indústria onde a pressão por vantagem geopolítica está superando as preocupações com segurança. Ele argumentou que essa dinâmica poderia levar ao desenvolvimento de sistemas de IA que ultrapassam nossa capacidade de controle. "Estamos vendo uma corrida armamentista de IA onde o ritmo de desenvolvimento está superando nossa capacidade de garantir o alinhamento", explicou. ## Riscos do alinhamento de IA O alinhamento de IA refere-se ao esforço para garantir que sistemas de inteligência artificial avançados operem de acordo com os valores intencionais dos humanos. Quando os modelos não são bem alinhados, eles podem produzir resultados inesperados ou perigosos. Aschenbrenner alertou que os modelos de IA atualmente em desenvolvimento podem ter capacidades que seus criadores não compreendem completamente, representando riscos significativos. "Estamos construindo sistemas que não entendemos completamente, e isso nos coloca em território perigoso", afirmou. ## A perspectiva da OpenAI A OpenAI, empresa por trás do ChatGPT, tem enfatizado a importância da segurança da IA em suas comunicações públicas. No entanto, Aschenbrenner sugere que há uma dissonância entre o discurso público e as práticas internas. "A empresa fala sobre segurança, mas a pressão para lançar produtos mais rapidamente está minando esses esforços", disse. ## O futuro da regulação da IA Especialistas em ética da IA têm alertado sobre a necessidade de regulações mais rigorosas para lidar com o rápido desenvolvimento da tecnologia. Aschenbrenner concorda que a ação regulatória é necessária, mas acredita que a indústria precisa tomar medidas mais proativas. "Não podemos depender apenas das regulamentações governamentais. As empresas precisam internalizar a responsabilidade pela segurança de seus sistemas", argumentou. ## O caminho a seguir Para mitigar os riscos, Aschenbrenner defende um enfoque mais deliberativo no desenvolvimento de IA, com ênfase em testes rigorosos e transparência sobre capacidades e limitações dos sistemas. "Precemos desacelerar para acelerar de forma sustentável. A segurança deve ser priorizada sobre a velocidade de lançamento", concluiu. A corrida para liderar na tecnologia de IA está intensificando à medida que empresas e nações buscam vantagem competitiva, mas os especialistas advertem que esse impulso não deve vir às custas de considerações fundamentais sobre segurança e controle.