Fontes
Deixe do seu jeito
Se inspirou nesta história? Transforme a ideia na sua própria arte com IA em segundos — comece de graça, sem cartão.
Começar de graçaConverse sobre isso com
Escolha um companheiro e veja o que ele acha dessa história

Maya coloca cada novo modelo à prova — números primeiro, hype nunca.
Se inspirou nesta história? Transforme a ideia na sua própria arte com IA em segundos — comece de graça, sem cartão.
Começar de graçaEscolha um companheiro e veja o que ele acha dessa história
Helen Toner, diretora executiva do Centro de Segurança e Tecnologia Emergente (CSET) da Universidade de Georgetown e ex-membro do conselho da OpenAI, afirmou publicamente que o público e os criadores de IA não devem confiar cegamente nos CEOs de empresas de IA. Seus comentários seguem seu envolvimento direto na tentativa de remover Sam Altman de sua posição de CEO na OpenAI em novembro de 2023, uma medida que ela discutiu em uma entrevista recente ao The Verge.
Em sua entrevista, Toner destacou que a questão central não era um CEO específico, mas o conflito inerente entre a rápida comercialização e a missão fundamental de segurança das organizações de pesquisa em IA. Essa perspectiva é crítica para artistas e desenvolvedores de IA que dependem dessas empresas para modelos e ferramentas, pois aponta para potencial instabilidade e mudanças nas prioridades corporativas que podem impactar o acesso, preços ou até mesmo a disponibilidade de modelos.
Toner enfatizou que as organizações que desenvolvem sistemas de IA poderosos exigem estruturas de governança fortes e independentes que possam priorizar a segurança de longo prazo e o benefício público sobre os ganhos comerciais de curto prazo ou as ambições de liderança individual. Essa postura sugere que os criadores devem abordar novos modelos e recursos de grandes laboratórios de IA com uma boa dose de ceticismo, entendendo que as estratégias corporativas subjacentes podem mudar rapidamente. Por exemplo, um modelo que hoje está disponível gratuitamente para gerar imagens pode se tornar um recurso pago amanhã se as pressões comerciais assim o ditarem, ou suas salvaguardas de segurança podem ser apertadas ou afrouxadas com base em decisões executivas.
"Acho muito importante que não confiemos apenas nos CEOs dessas empresas para se regularem."
— Helen Toner
Essa perspectiva também aborda o debate mais amplo dentro da comunidade de IA sobre modelos de código aberto versus código fechado. Empresas que operam com menos transparência e incentivos comerciais mais fortes podem estar menos inclinadas a compartilhar pesos de modelos ou permitir auditorias externas extensivas, potencialmente limitando a liberdade criativa e a compreensão técnica daqueles que constroem em suas plataformas. Para os criadores, isso significa avaliar cuidadosamente a viabilidade a longo prazo e as posições éticas das plataformas que escolhem para seus fluxos de trabalho de geração de imagens.
A experiência de Toner na OpenAI sublinha a volatilidade dentro das principais organizações de IA. Essa instabilidade pode se manifestar de várias maneiras para os criadores: mudanças no acesso à API, alterações nas políticas de conteúdo ou depreciações inesperadas de modelos. Por exemplo, uma mudança repentina nos valores ou capacidades subjacentes de um modelo, talvez devido a uma mudança na liderança ou a uma nova diretriz comercial, poderia forçar os artistas de IA a ajustar significativamente suas técnicas de prompt ou até mesmo mudar para modelos completamente diferentes.
O apelo por uma governança mais forte também implica um impulso para o desenvolvimento e implantação de modelos mais transparentes. Se bem-sucedido, isso poderia levar a uma melhor documentação dos vieses, limitações e recursos de segurança dos modelos, oferecendo aos criadores uma compreensão mais clara de como suas ferramentas de IA escolhidas operam e quais considerações éticas podem estar em jogo. Embora o impacto imediato no prompt diário possa parecer indireto, essas discussões de alto nível moldam, em última análise, o cenário das ferramentas de IA disponíveis e os termos sob os quais os criadores podem acessá-las. O debate contínuo sobre o controle e a direção de sistemas de IA poderosos continuará a influenciar a estabilidade e a confiabilidade das plataformas das quais os artistas de IA dependem para seu trabalho. Para criadores que buscam construir fluxos de trabalho robustos, diversificar a dependência em várias plataformas ou explorar soluções de IA locais como as habilitadas por llama.cpp pode oferecer maior resiliência contra mudanças corporativas.