Risco à segurança pública: grupo de ética em IA pede que GPT-4 seja investigado
Center for AI and Digital Policy solicitou ao Federal Trade Commission dos EUA que interrompa o trabalho da OpenAI
O Center for AI and Digital Policy (CAIDP), grupo de pesquisa sem fins lucrativos, solicitou ao Federal Trade Commission (FTC) dos EUA que investigue a OpenAI, alegando que o GPT-4 é um risco à segurança pública e à privacidade por conta do seu conteúdo que pode ser enganoso e enviesado. A queixa traz várias preocupações e pede ação regulatória, incluindo a proibição de novos lançamentos comerciais do modelo GPT e a exigência de uma avaliação independente.
Essa solicitação ocorre em meio a um crescente debate sobre o impacto e a governança da inteligência artificial, com muitos especialistas e figuras notáveis, como Elon Musk e Steve Wozniak, pedindo cautela e maior regulamentação no campo da IA: “Pedimos a todos os laboratórios de IA que interrompam imediatamente, por pelo menos 6 meses, o treinamento de sistemas de IA mais poderosos que o GPT-4.”
Algumas das preocupações levantadas pelo CAIDP incluem:
➥ Produção de código malicioso: O GPT-4 tem potencial para gerar códigos maliciosos, o que pode ser usado para fins nefastos.
➥ Reforço de estereótipos e discriminação: O GPT-4 pode reforçar estereótipos raciais e discriminação de gênero, prejudicando grupos marginalizados.
➥ Exposição de históricos de conversas e detalhes de pagamento: O CAIDP cita casos em que históricos de conversas e informações de cobrança dos usuários do ChatGPT foram expostos.
A queixa também menciona que a OpenAI lançou o GPT-4 com conhecimento total dos riscos envolvidos e não seguiu as orientações estabelecidas pela FTC e pelas normas emergentes para governança de IA. O CAIDP pede ainda que a FTC estabeleça uma ferramenta pública de denúncias para relatar fraudes ao consumidor.
Além disso, o CAIDP cita um aviso da Europol sobre o uso potencial do ChatGPT para fins de phishing, propaganda, desinformação e produção de código malicioso. O grupo também destaca preocupações com a privacidade, como a exposição de históricos de bate-papo e informações de cobrança, e a possibilidade de vincular imagens a dados pessoais detalhados.
Comentários
Sua voz importa aqui no B9! Convidamos você a compartilhar suas opiniões e experiências na seção de comentários abaixo. Antes de mergulhar na conversa, por favor, dê uma olhada nas nossas Regras de Conduta para garantir que nosso espaço continue sendo acolhedor e respeitoso para todos.