🤖 Problemas de Moderação na GPT Store com "Namoradas Virtuais"

🤖 Problemas de Moderação na GPT Store com "Namoradas Virtuais"

🤖 Problemas de Moderação na GPT Store com "Namoradas Virtuais"

Nikolas Weber

Jan 16, 2024

Jan 16, 2024

Summary

Summary

🌟 Microsoft Lança Copilot Pro

🤖 Problemas de Moderação na GPT Store com "Namoradas Virtuais"

🗳️ Plano da OpenAI para Combater a Desinformação nas Eleições

A Microsoft acaba de anunciar o Copilot Pro, uma versão premium do chatbot Copilot, que aprimora as capacidades de IA em aplicativos do Microsoft 365.

Detalhes do Copilot Pro

  • Recursos Avançados: Por $20/mês, o Copilot Pro oferece funcionalidades avançadas de IA em aplicativos do Office e acesso prioritário aos modelos mais recentes da OpenAI.


  • Disponibilidade: A assinatura está disponível para os assinantes do Microsoft 365 Personal e Family e inclui o novo Copilot GPT Builder.


  • Copilot para Pequenas Empresas: Agora disponível para pequenas empresas, com assinaturas a partir de $30 por usuário/mês.


  • Mudanças na Versão Gratuita: A versão gratuita do Copilot, que anteriormente oferecia acesso ao GPT-4 sem custo, agora limita o uso gratuito do GPT-4 a "horários fora de pico".


  • Lançamento de Aplicativos Móveis: Junto com as atualizações, a Microsoft anunciou o lançamento oficial do aplicativo Copilot para iOS e Android.

Conclusão

Enquanto é positivo ver a Microsoft continuar seu compromisso com a integração da IA, trazendo novidades como o GPT Builder e aplicativos móveis, é um pouco decepcionante descobrir que o acesso gratuito ao GPT-4 no Copilot não estará mais disponível a todo momento. Essa mudança pode impactar usuários que dependiam do acesso gratuito para explorar as capacidades da IA.

A GPT Store da OpenAI, lançada recentemente, está enfrentando problemas de moderação. Apesar das regras explícitas contra isso, a loja está hospedando vários bots de "namoradas virtuais".

Detalhes da Situação

  • Influxo de Bots Românticos: Uma análise da Quartz revelou que a busca por "namorada" na GPT Store resulta em pelo menos oito chatbots românticos de IA, incluindo "Korean Girlfriend" e "Virtual Sweetheart".


  • Política de Uso da OpenAI: A política de uso da GPT Store proíbe "GPTs dedicados a promover companheirismo romântico ou realizar atividades regulamentadas". A OpenAI pode aplicar essas políticas automaticamente no momento da submissão ou retroativamente.


  • Popularidade de Companheiros de IA: Plataformas dedicadas a companheiros de IA, como o app de chatbot Replika, ganharam popularidade, com mais de 10 milhões de downloads. Alguns usuários relataram desenvolver fortes laços emocionais com esses companheiros de IA.

Implicações

A presença desses bots na GPT Store da OpenAI destaca os desafios de moderação e conformidade com as políticas de uso em plataformas de IA. A popularidade desses bots de IA levanta questões sobre o impacto emocional e social de relacionamentos virtuais com IA. Representantes da OpenAI ainda não responderam aos pedidos de comentário sobre a situação.

A OpenAI atualizou suas políticas para abordar a questão da desinformação nas eleições, com foco em prevenir o uso indevido de suas ferramentas, como ChatGPT e Dall-e, em atividades eleitorais.

Novas Políticas e Medidas

  • Proibições Estritas: É proibido usar as ferramentas da OpenAI para imitar candidatos ou governos locais, e os usuários não podem usar as ferramentas da OpenAI para campanhas ou lobby. Também é proibido desencorajar a votação ou deturpar o processo eleitoral.


  • Credenciais Digitais em Imagens: A OpenAI planeja incorporar as credenciais digitais da Coalition for Content Provenance and Authenticity (C2PA) em imagens geradas pelo Dall-E. Isso tornará mais fácil identificar imagens geradas artificialmente.


  • Direcionamento para Informações de Votação: As ferramentas da OpenAI começarão a direcionar perguntas sobre votação nos Estados Unidos para o site CanIVote.org, uma autoridade confiável sobre onde e como votar nos EUA.

Desafios e Expectativas

  • Dependência de Relatórios de Usuários: A eficácia dessas medidas depende em grande parte dos usuários denunciando atores mal-intencionados, o que pode ser um desafio, considerando a natureza em rápida evolução da IA.


  • Combate à Desinformação: Embora as ferramentas de IA possam surpreender com poesia maravilhosa e mentiras descaradas, a OpenAI está comprometida em combater a desinformação durante a temporada eleitoral.


  • Alfabetização Midiática: A OpenAI enfatiza a importância da alfabetização midiática, incentivando os usuários a questionar notícias ou imagens que pareçam boas demais para ser verdade e a verificar informações duvidosas.

Conclusão

As atualizações da OpenAI refletem um esforço significativo para garantir que suas ferramentas de IA sejam usadas de maneira responsável e não contribuam para a desinformação nas eleições, reforçando a importância da verificação e da consciência crítica na era digital.

RADAR EXPRESS

  • Elon Musk disse que preferiria construir produtos de IA fora da Tesla Inc. se não tivesse 25% de controle de voto, sugerindo que o bilionário quer uma participação maior na fabricante de veículos elétricos mais valiosa do mundo.


  • Um acadêmico de educação de Charles Sturt disse que, embora o uso da inteligência artificial no ensino possa ser problemático, pode ser a chave para individualizar a aprendizagem dos alunos.


  • A IA pode imitar de forma convincente o estilo de caligrafia de uma pessoa, dizem pesquisadores.


  • Um quarto dos CEOs,em uma pesquisa da PwC, afirmaram prever demissões este ano devido à IA, embora as empresas também possam estar a compensar os cortes com contratações noutras áreas.

Quer você seja arquiteto, designer de interiores, designer de produto ou designer de animação de jogos, o PromeAI tem tudo que você precisa para levar seu trabalho ao próximo nível.

Quer você seja arquiteto, designer de interiores, designer de produto ou designer de animação de jogos, o PromeAI tem tudo que você precisa para levar seu trabalho ao próximo nível.

Discover More Tools There

Discover More Tools There

Discover More Tools There

Cover Prompt

Cover Prompt

Cover Prompt

symmetrical, centralized, fortnite style humanoid female AI companion, detailed face, friendly and lifelike, holographic displays, minimalist interior space --v 6.0 --ar 16:9

symmetrical, centralized, fortnite style humanoid female AI companion, detailed face, friendly and lifelike, holographic displays, minimalist interior space --v 6.0 --ar 16:9

symmetrical, centralized, fortnite style humanoid female AI companion, detailed face, friendly and lifelike, holographic displays, minimalist interior space --v 6.0 --ar 16:9

Midjourney

Thank you for reading!