Uma semana depois que o CEO da OpenAI compareceu a um comitê do Senado dos EUA para abordar as preocupações do país com a inteligência artificial (IA), Sam Altman disse na segunda-feira que é necessário criar um órgão de governança para mitigar os riscos da tecnologia.
“Dada a imagem que vemos agora, é concebível que, nos próximos dez anos, os sistemas de IA excedam o nível de habilidade especializada na maioria dos domínios e realizem tanta atividade produtiva quanto uma das maiores corporações de hoje”, disse o CEO em uma postagem no blog.
Dada a enxurrada de desenvolvimentos ocorrendo no espaço da IA, ele sugeriu que os futuros sistemas de IA serão dramaticamente mais capazes do que a Inteligência Geral Artificial (AGI) – um sistema que pode raciocinar, planejar e aprender com a experiência no mesmo nível que os humanos. fazer ou possivelmente acima deles.
De fato, pesquisadores da Microsoft, a gigante da tecnologia que investiu bilhões de dólares na OpenAI, divulgaram um artigo sugerindo que o GPT-4 fez grandes progressos na aplicação do bom senso e pode raciocinar como humanos. O artigo atraiu fortes críticas por uma “reivindicação exagerada” porque o modelo de linguagem grande ainda tem várias limitações.
Guarda-corpos contra superinteligência
Citando o exemplo da energia nuclear, Altman disse que em breve precisaríamos de um órgão governamental de IA semelhante à Agência Internacional de Energia Atômica (AIEA), que cuida da segurança nuclear global e da estrutura de segurança para proteger as pessoas e o meio ambiente contra os efeitos nocivos da radiação.
Pedindo opinião pública sobre o “risco existencial” representado pela IA, Altman acrescentou: “Acreditamos que as pessoas ao redor do mundo devem decidir democraticamente sobre os limites e padrões dos sistemas de IA”.
O lançamento de seu chatbot ChatGPT pela OpenAI em novembro do ano passado deu origem a uma revolução generativa da IA. Todas as empresas de tecnologia da Terra têm procurado corrigir sua tecnologia existente com IA ou criar novas ferramentas de IA no que agora é um mercado altamente competitivo. Embora a IA deva impactar quase todos os setores, surgiram preocupações sobre o potencial desconhecido da IA. Por exemplo, e se os objetivos da superinteligência não estiverem alinhados com os interesses humanos?
Para resolver isso, Altman, em 16 de maio, compareceu perante o Congresso, buscando promover as vantagens da tecnologia e limitar seu uso indevido. Ele sugeriu que os EUA deveriam considerar requisitos severos de licenciamento e teste para o desenvolvimento de modelos de IA, como a Interest Engineering havia relatado anteriormente.
Publicado em 03/06/2023 11h24
Artigo original: