OpenAI, emergindo das cinzas, tem muito a provar mesmo com o retorno de Sam Altman

A luta pelo poder da OpenAI que cativou o mundo da tecnologia após a demissão do cofundador Sam Altman finalmente chegou ao fim — pelo menos por enquanto. Mas o que fazer com isso?

Parece quase que alguns elogios são necessários – como se a OpenAI tivesse morrido e uma startup nova, mas não necessariamente melhorada, estivesse em seu meio. O ex-presidente da Y Combinator, Altman, está de volta ao comando, mas seu retorno é justificado? O novo conselho de administração da OpenAI está tendo um início menos diversificado (ou seja, é inteiramente branco e masculino), e os objetivos filantrópicos fundadores da empresa estão em risco de sendo cooptado por interesses mais capitalistas.

Isso não quer dizer que o antigo OpenAI fosse perfeito de forma alguma.

Na manhã de sexta-feira, a OpenAI tinha um conselho de seis pessoas — Altman, cientista-chefe da OpenAI, Ilya Sutskever, presidente da OpenAI, Greg Brockman, tecnologia a empresária Tasha McCauley, o CEO da Quora Adam D’Angelo e Helen Toner, diretora do Centro de Segurança e Tecnologias Emergentes de Georgetown. O conselho estava tecnicamente vinculado a uma organização sem fins lucrativos que tinha participação majoritária no lado com fins lucrativos da OpenAI, com poder absoluto de tomada de decisão sobre as atividades, investimentos e direção geral da OpenAI com fins lucrativos.

A estrutura incomum da OpenAI foi estabelecida pelos cofundadores da empresa, incluindo Altman, com a melhor das intenções. O estatuto excepcionalmente breve (500 palavras) da organização sem fins lucrativos descreve que o conselho toma decisões garantindo “que a inteligência artificial geral beneficie toda a humanidade”, deixando para os membros do conselho decidir a melhor forma de interpretar isso. Nem “lucro” nem “receita” são mencionados neste documento da North Star; Toner supostamente disse uma vez à equipe executiva de Altman que desencadear o colapso da OpenAI “seria realmente consistente com a missão [da organização sem fins lucrativos]”.

Talvez o arranjo tivesse funcionado em algum universo paralelo; durante anos, pareceu funcionar bem no OpenAI. Mas assim que investidores e parceiros poderosos se envolveram, as coisas tornaram-se… mais complicadas.

A demissão de Altman une Microsoft e funcionários da OpenAI

Depois que o conselho demitiu Altman abruptamente na sexta-feira, sem notificar praticamente ninguém, incluindo a maior parte da força de trabalho de 770 pessoas da OpenAI, os patrocinadores da startup começaram a expressar seu descontentamento tanto no setor privado quanto no público.

Satya Nadella, CEO da Microsoft, um grande colaborador da OpenAI , ficou supostamente “furioso” ao saber da saída de Altman. Vinod Khosla, fundador da Khosla Ventures, outro apoiador da OpenAI, disse no X (antigo Twitter) que o fundo queria Altman de volta. Enquanto isso, a Thrive Capital, a já mencionada Khosla Ventures, a Tiger Global Management e a Sequoia Capital estariam considerando uma ação legal contra o conselho se as negociações no fim de semana para reintegrar Altman não dessem certo.

Agora, os funcionários da OpenAI não estavam desalinhados com esses investidores de fora. Pelo contrário, perto de todos eles — incluindo Sutskever, numa aparente mudança de opinião — assinaram uma carta ameaçando o conselho de administração com demissão em massa se decidissem não reverter o curso. Mas é preciso considerar que esses funcionários da OpenAI teriam muito a perder caso a OpenAI desmoronasse — ofertas de emprego da Microsoft e Salesforce à parte.

A OpenAI estava em discussões, liderada pela Thrive, para possivelmente vender ações dos funcionários, em uma medida que teria aumentado a avaliação da empresa de US$ 29 bilhões para algo entre US$ 80 bilhões e US$ 90 bilhões. A saída repentina de Altman – e o elenco rotativo de CEOs questionáveis interinos da OpenAI – deram Prosperar com medo, colocando a venda em risco.

Altman venceu a batalha de cinco dias, mas a que custo?

Mas agora, depois de vários dias de tirar o fôlego e de arrancar os cabelos, alguma forma de resolução foi alcançada. Altman – junto com Brockman, que renunciou na sexta-feira em protesto contra a decisão do conselho – está de volta, embora sujeito a uma investigação de antecedentes sobre as preocupações que precipitaram sua decisão. remoção. A OpenAI tem um novo conselho de transição, atendendo a uma das demandas de Altman. E a OpenAI manterá sua estrutura, com os lucros dos investidores limitados e o conselho livre para tomar decisões que não sejam baseadas em receitas.

O CEO da Salesforce, Marc Benioff, postou no X que “os mocinhos” venceram. Mas isso pode ser prematuro dizer.

Claro, Altman “ganhou”, superando um conselho que o acusou de “não [ser] consistentemente sincero” com os membros do conselho e, de acordo com alguns relatórios, de colocar o crescimento acima da missão. Em um exemplo dessa suposta trapaça, Altman teria sido crítica de Toner por causa de um artigo de sua coautoria que apresentava a abordagem de segurança da OpenAI em um contexto luz crítica – ao ponto em que ele tentou empurrá-la para fora do tabuleiro. Em outro, Altman “enfureceu” Sutskever ao apressar o lançamento de recursos alimentados por IA na primeira conferência de desenvolvedores da OpenAI.

O conselho não se explicou mesmo após repetidas chances, citando possíveis contestações legais. E é seguro dizer que rejeitaram Altman de uma forma desnecessariamente histriónica. Mas não se pode negar que os diretores poderiam ter tido razões válidas para deixar Altman ir, pelo menos dependendo de como interpretaram a sua diretiva humanística.

O novo conselho parece provável que interprete essa diretiva de forma diferente.

Atualmente, o conselho da OpenAI é composto pelo ex-co-CEO da Salesforce, Bret Taylor, D’Angelo (o único remanescente do conselho original) e Larry Summers, economista e ex-presidente de Harvard. Taylor é um empreendedor empreendedor, tendo sido cofundador de inúmeras empresas, incluindo FriendFeed (adquirida pelo Facebook) e Quip (através de cuja aquisição ele veio para a Salesforce). Enquanto isso, Summers tem profundas conexões comerciais e governamentais — um trunfo para a OpenAI, provavelmente foi o pensamento em torno de sua seleção, em um momento em que o escrutínio regulatório da IA ​​está se intensificando.

No entanto, os diretores não parecem uma “vitória” total para este repórter – não se a intenção fosse a diversidade de pontos de vista. Embora seis assentos ainda não tenham sido preenchidos, os quatro iniciais estabelecem um tom bastante homogêneo; tal conselho seria de fato ilegal na Europa, onde mandatos as empresas reservam pelo menos 40% de seus assentos no conselho para candidatas mulheres.

Por que alguns especialistas em IA estão preocupados com o novo conselho da OpenAI

Não sou o único que está desapontado. Vários acadêmicos de IA recorreram ao X para expressar suas frustrações hoje cedo.

Noah Giansiracusa, professor de matemática da Universidade de Bentley e autor de um livro sobre algoritmos de recomendação de mídia social, discorda tanto da composição exclusivamente masculina do conselho quanto da nomeação de Summers, que ele observa ter um histórico de sucesso. comentários pouco lisonjeiros sobre as mulheres.

“Independentemente do que se pense sobre esses incidentes, a ótica não é boa, para dizer o mínimo – especialmente para uma empresa que tem liderado o desenvolvimento de IA e remodelado o mundo em que vivemos”, disse Giansiracusa por mensagem de texto. “O que considero particularmente preocupante é que o principal objetivo da OpenAI é desenvolver inteligência artificial geral que ‘beneficie toda a humanidade’. Como metade da humanidade é composta por mulheres, os acontecimentos recentes não me dão muita confiança sobre isto. O toner representa mais diretamente o lado da segurança da IA, e esta tem sido frequentemente a posição em que as mulheres têm sido colocadas, ao longo da história, mas especialmente na tecnologia: proteger a sociedade de grandes danos enquanto os homens recebem o crédito por inovar e governar o mundo.”

Christopher Manning, diretor do AI Lab de Sanford, é um pouco mais caridoso do que – mas concorda com – Giansiracusa em sua avaliação:

“A placa OpenAI recém-formada provavelmente ainda está incompleta”, disse ele ao TechCrunch. “No entanto, os atuais membros do conselho, sem ninguém com conhecimento profundo sobre o uso responsável da IA ​​na sociedade humana e compostos apenas por homens brancos, não são um começo promissor para uma empresa de IA tão importante e influente.”

A desigualdade assola o setor de IA, desde os anotadores que rotulam os dados usados ​​para treinar modelos de IA generativos até os prejudiciais < a i=3>preconceitos que frequentemente surgem nesses modelos treinados, incluindo Modelos da OpenAI. Summers, para ser justo, expressou preocupação com as ramificações possivelmente prejudiciais da IA ​​— pelo menos no que se refere aos meios de subsistência. Mas os críticos com quem conversei acham difícil acreditar que um conselho como o atual da OpenAI priorize consistentemente esses desafios, pelo menos não da maneira que um conselho mais diversificado faria.

Isso levanta a questão: por que a OpenAI não tentou recrutar um conhecido especialista em ética em IA como Timnit Gebru ou Margaret Mitchell para o conselho inicial? Eles “não estavam disponíveis”? Eles recusaram? Ou a OpenAI não fez nenhum esforço em primeiro lugar? Talvez nunca saberemos.

Alegadamente, a OpenAI considerou Laurene Powell Jobs e Marissa Mayer para cargos no conselho, mas elas foram consideradas muito próximas de Altman. O nome de Condoleezza Rice também foi divulgado, mas acabou sendo ignorado.

A OpenAI tem a chance de provar que é mais sábia e experiente ao selecionar os cinco assentos restantes no conselho – ou três, caso Altman e um executivo da Microsoft ocupem um cada (como tem sido rumores). Se eles não seguirem um caminho mais diversificado, o que Daniel Colson, diretor do grupo de reflexão do AI Policy Institute, disse sobre X, pode muito bem ser verdade: não se pode confiar em algumas pessoas ou em um único laboratório para garantir que a IA seja desenvolvida de forma responsável.

Fonte: TechCrunch