Instituto de Segurança de IA dos EUA anuncia novos membros para sua equipe de liderança
O Instituto de Segurança de Inteligência Artificial dos EUA, sob o Departamento de Comércio, anunciou cinco novos membros para sua equipe de liderança. Entre os cinco novos membros está aquele que previu que há 50% de chance de que o desenvolvimento da inteligência artificial acabe com a humanidade. Mas essa não é sua única introdução; ele também possui inovações muito importantes em seu currículo.
Novos membros da equipe de segurança de IA
Há algum tempo existe um debate sobre se a inteligência artificial se tornará uma ameaça existencial para os seres humanos, mas muitos especialistas afirmam que isso é exagerado e superestimado, e que esse tipo de previsão poderia prejudicar os avanços na área. A tarefa dos recém-nomeados é encorajar o desenvolvimento de forma a tornar a IA benéfica para as pessoas, contra essa percepção de dano sob o Instituto Nacional de Padrões e Tecnologia (NIST).
A diretora do NIST e Secretária Adjunta de Comércio para Padrões e Tecnologia, Laurie E. Locascio, disse:
“Estou muito feliz em dar as boas-vindas a esses talentosos especialistas à equipe de liderança do Instituto de Segurança de IA dos EUA para ajudar a estabelecer a ciência de medição que apoiará o desenvolvimento de IA segura e confiável. Cada um deles traz experiências únicas que ajudarão o instituto a construir uma base sólida para a segurança de IA no futuro.”
Entre os novos membros está Adam Russell, diretor de visão-chefe, que também é diretor da divisão de IA do Instituto de Ciências da Informação da Universidade da Califórnia. O professor Rob Reich será o conselheiro sênior, ele é da Universidade de Stanford, trabalha como diretor associado do Instituto de IA Centrado no Humano e também é especialista em ciência política.
Mara Quintero Campbell foi nomeada como diretora de operações e chefe de gabinete, atualmente ela trabalha como diretora de operações adjunta da Administração de Desenvolvimento Econômico do Comércio. Mark Latonero será o responsável pelo engajamento internacional, ele é do Escritório de Política de Ciência e Tecnologia da Casa Branca e trabalha como diretor-adjunto do Escritório de Iniciativas de IA Nacional.
AI Doomster a bordo – mas há mais por trás disso
O novo membro chamado de AI Doomster é ninguém menos que Paul Christiano. Ele foi nomeado como chefe de segurança de IA da equipe. Ele é um ex-pesquisador da OpenAI e fundador do Centro de Pesquisa de Alinhamento. Ele também é o inventor de uma técnica fundamental de segurança de IA conhecida como aprendizado por reforço, que incorpora o feedback humano. Ele ganhou seu rótulo como AI Doomster depois de ser questionado em um podcast sobre a chance de as ambições de IA da humanidade acabarem em desgraça, ao que ele demonstrou preocupação com a possibilidade de a humanidade ser condenada, ele disse:
“Acho que talvez haja algo em torno de 10-20% de chance de dominação da IA, com muitos humanos mortos, levo isso muito a sério.”
Ele também disse:
“No geral, talvez você esteja chegando a uma chance de 50/50 de desgraça logo após ter sistemas de IA no nível humano.”
Fonte: Podcast Bankless.
Christiano expressou esses pensamentos no podcast Bankless com os apresentadores David Hoffman e Ryan Sean Adams, mas ele insiste que suas opiniões não são tão extremas quanto as do famoso AI Doomster Eliezer Yudkowsky, que sugere um cenário completo de desgraça.
A secretária de Comércio dos EUA, Gina Raimondo, também disse que, para salvaguardar a liderança global em IA responsável e garantir a segurança da IA e mitigar os riscos associados a ela, precisamos de talentos de alto nível do país, por isso essas pessoas foram selecionadas, que são as melhores em suas áreas para agora se juntar à equipe de liderança executiva do Instituto de Segurança de IA dos EUA.
O comunicado de imprensa do Departamento de Comércio dos EUA pode ser encontrado aqui.