Chefe de confiança e segurança da OpenAI, Dave Willner, deixa a empresa
A OpenAI diz que procurará um novo líder de confiança
Fonte: https://www.theverge.com/2023/7/21/23802999/openai-trust-safety-out-privacy
Dave Willner, chefe de confiança e segurança da OpenAI, está deixando a empresa enquanto a indústria de IA enfrenta mais escrutínio em torno de privacidade e segurança por parte dos formuladores de políticas.
Willner tem trabalhado em confiança e segurança por quase uma década. Antes de se juntar à OpenAI, Willner era chefe de confiança e segurança na startup de cuidados infantis Otter e liderou a política de confiança e comunidade no Airbnb.
A FTC lançou uma investigação sobre a OpenAI na semana passada para determinar se seus métodos de coleta de dados de treinamento violavam os direitos do consumidor. A Securities and Exchange Commission também expressou preocupação de que grandes modelos de IA poderiam centralizar dados e tomada de decisões em finanças, levando a uma espécie de pensamento de grupo semelhante aos eventos que precederam a crise financeira de 2008. OpenAI, Meta, Microsoft e outros grandes nomes no espaço da IA assinaram um compromisso com a Casa Branca esta semana para investir em pesquisa de segurança e discriminação e um novo sistema de marca d'água para identificar conteúdo gerado por IA.
O CEO da OpenAI, Sam Altman, tem sido vocal sobre as regulamentações de IA, pedindo ao Congresso que promulgue políticas e, conforme relatado pela Bloomberg, apoiando uma iniciativa para exigir licenças para desenvolver modelos poderosos de IA.
A OpenAI disse que a diretora de tecnologia Mira Murati gerenciará a equipe de confiança e segurança no interim e estará procurando um novo líder de confiança.
"Estamos procurando um líder tecnicamente qualificado para avançar nossa missão, focando no design, desenvolvimento e implementação de sistemas que garantam o uso seguro e o crescimento escalável de nossa tecnologia", disse a OpenAI em um comunicado ao The Verge.
Willner disse em uma postagem no LinkedIn que decidiu equilibrar o trabalho com empresas menores e ver seus filhos crescerem depois de participar da mais recente TrustCon, uma conferência para profissionais de confiança e segurança.
"Esse momento de clareza me permitiu decidir algo que provavelmente parece contraintuitivo para muitas pessoas, mas parece incrivelmente certo para mim", disse Willner. "Acabou sendo uma escolha bastante fácil de fazer, embora não seja uma que as pessoas na minha posição costumam fazer tão explicitamente em público. Espero que esta postagem possa ajudar a normalizá-la."