Zoom nega treinamento de IA em chamadas sem consentimento
A Zoom atualizou seus termos de serviço após uma reação negativa por temores de que tenha treinado seus modelos de inteligência artificial (IA) em chamadas de clientes.
Em uma postagem no blog, a empresa enfatizou que áudio, vídeo e bate-papos não foram usados para IA sem consentimento.
O aplicativo de videochamada agiu depois que os usuários notaram mudanças nos termos de serviço da empresa em março, o que eles temiam permitir o treinamento de IA.
A empresa disse que fez as mudanças para ser mais transparente.
O Zoom lançou novos recursos com tecnologia de IA em junho, um dos quais permite que os clientes resumam as reuniões sem precisar gravar uma sessão inteira. Os recursos foram oferecidos como uma avaliação gratuita.
Mas alguns especialistas alertaram que a redação original dos termos de serviço poderia permitir que o Zoom acessasse mais dados do usuário do que o necessário, inclusive de chamadas de clientes.
Em conversa com a BBC, antes da atualização dos termos de serviço, o especialista em proteção de dados Robert Bateman disse: “Os termos pareciam dar ao provedor de serviços muita liberdade para usar os dados gerados por seus usuários para diversos fins”.
Ele disse que, embora haja um ponto de interrogação sobre os riscos que podem surgir, “os alarmes devem soar quando você encontrar disposições contratuais amplas como essas”.
Na noite de segunda-feira, o Zoom atualizou seus termos para incluir a linha “O Zoom não usará conteúdo de áudio, vídeo ou bate-papo do cliente para treinar nossos modelos de inteligência artificial sem o seu consentimento”.
Comportamento semelhante ao humano
Aplicativos de IA são programas de computador ou ferramentas que podem executar tarefas específicas e inteligentes que normalmente seriam executadas por humanos. Eles são treinados usando grandes quantidades de dados e algoritmos para “aprender” e replicar padrões de comportamento humano.
Mas a extração em massa de informações online para treinar os modelos que sustentam os aplicativos de IA provocou temores e gerou ações judiciais sobre a possível inclusão de material pessoal, sensível ou protegido por direitos autorais em seus conjuntos de dados.
A Zoom, como muitas empresas de tecnologia, aumentou seu foco em produtos de IA este ano em resposta ao crescente entusiasmo em torno da tecnologia.
Mas o Open Rights Group, que faz campanha pela privacidade digital, alertou que a decisão do Zoom de lançar os recursos como um teste gratuito e incentivar os clientes a “optar por participar” tornou as mudanças “mais alarmantes”.
“Embora a Zoom declare que será solicitado aos clientes consentimento para usar seus dados para treinar modelos de IA, a política de privacidade da Zoom é opaca e não está claro se esse é o caso”, disse a gerente de políticas de proteção de dados Abby Burke à BBC falando antes do atualização mais recente dos termos do Zoom.
Na segunda-feira, um porta-voz da Zoom reiterou que os clientes decidem se devem habilitar recursos generativos de IA e, separadamente, se devem compartilhar o conteúdo do cliente com a Zoom para “fins de melhoria do produto”.
Capturas de tela na postagem do blog de segunda-feira mostraram exemplos de mensagens de aviso para usuários que ingressam em reuniões usando ferramentas de IA, dando-lhes a opção de concordar com o uso do treinamento ou sair da reunião.
Smita Hashim, diretor de produtos da Zoom, disse que os proprietários e administradores de contas podem escolher se desejam ativar os recursos, que ainda estão disponíveis em caráter experimental, e que as pessoas que os ativarem “receberão um processo de consentimento transparente para treinar nossos modelos de IA usando o conteúdo do cliente”.
Fonte: BBC