Ambiguidade sobre a propriedade dos dados

Um banco de varejo contratou um fornecedor de análise para construir um modelo de previsão de churn de clientes. O projeto exigia que o banco fornecesse dois anos de dados comportamentais dos clientes: padrões de transações, uso de produtos, métricas de engajamento e histórico de interações com o atendimento. O fornecedor usou esses dados para treinar o modelo, que entregou ao banco junto com uma licença para usá-lo em suas próprias previsões de churn. Dezoito meses depois, o banco descobriu que o fornecedor havia retido a arquitetura do modelo treinado e estava oferecendo recursos de previsão de churn substancialmente semelhantes como produto comercial a outras instituições financeiras, incluindo vários concorrentes diretos do banco. O contrato do banco estabelecia que os dados de clientes fornecidos ao fornecedor continuavam sendo propriedade do banco. Ele não dizia nada sobre o modelo treinado com esses dados, os insights de engenharia de features derivados deles ou os pesos do modelo que codificavam padrões aprendidos com o comportamento dos clientes do banco. O fornecedor havia usado os dados do banco para construir um ativo que pertencia ao fornecedor. O contrato era omisso sobre a questão.

O que é, de fato, a ambiguidade na titularidade de dados nas relações com fornecedores?

A titularidade de dados nas relações com fornecedores abrange duas categorias distintas, mas frequentemente confundidas. A primeira é a titularidade dos próprios dados: os registros de clientes, logs de transações, dados comportamentais e informações operacionais que o cliente compartilha com o fornecedor para tratamento. A titularidade dos dados de entrada costuma ser simples: o cliente mantém a titularidade dos dados que compartilhou, o fornecedor é um operador, e os dados devem ser devolvidos ou excluídos no encerramento do contrato. A maioria dos acordos de tratamento de dados trata adequadamente dessa categoria.

A segunda categoria, e aquela em que a ambiguidade cria risco comercial e competitivo real, é a titularidade dos ativos derivados: modelos treinados com dados do cliente, insights extraídos deles, algoritmos calibrados com eles, benchmarks agregados construídos a partir deles e qualquer propriedade intelectual produzida pela aplicação das capacidades do fornecedor aos dados do cliente. A titularidade desses ativos derivados não é regida pela cláusula de titularidade de dados, mas pelas cláusulas de propriedade intelectual do contrato, e essas cláusulas frequentemente atribuem por padrão ao fornecedor a titularidade dos produtos de trabalho que ele cria, incluindo aqueles que não existiriam sem os dados do cliente como insumo principal.

O contexto de IA e aprendizado de máquina tornou essa ambiguidade muito mais relevante. Quando um fornecedor treina um modelo de aprendizado de máquina com os dados de um cliente, o modelo resultante codifica padrões, pesos e relações aprendidos com esses dados. Intelectualmente, o modelo é do fornecedor: ele desenvolveu a arquitetura, realizou o treinamento e criou o artefato implantável. Mas o valor do modelo deriva substancial ou inteiramente dos dados do cliente; sem eles, o modelo não existiria ou seria materialmente menos capaz. A questão de quem é dono do modelo, quem pode usá-lo e se o fornecedor pode oferecer capacidades equivalentes aos concorrentes do cliente usando conhecimento derivado dos dados do cliente é uma questão que a maioria dos contratos de cinco anos atrás nunca contemplou e que muitos contratos atuais ainda não abordam.

A ambiguidade na titularidade de dados se concentra em cinco categorias específicas de lacunas nas relações com fornecedores:

• Titularidade de modelos e algoritmos: modelos de ML treinados, calibrações de algoritmos e modelos preditivos construídos com dados do cliente cuja titularidade não é tratada pela cláusula de titularidade de dados e, por padrão, fica com o fornecedor como produto de trabalho criado por ele
• Insights derivados e dados de benchmark: benchmarks setoriais, métricas agregadas de desempenho e insights analíticos produzidos pela combinação dos dados do cliente com dados de outros clientes, de titularidade do fornecedor como ativos de inteligência agregada
• Resultados da engenharia de features: conjuntos de features, transformações e representações de dados criados a partir dos dados do cliente como artefatos intermediários do treinamento de modelos, potencialmente valiosos como ativos reutilizáveis que o fornecedor retém
• Conhecimento residual e desenvolvimento de capacidades: expertise da equipe do fornecedor, conhecimento institucional e melhorias de capacidade desenvolvidos no trabalho com os dados do cliente, que o fornecedor retém e aplica em relações posteriores com outros clientes
• Produtos de dados derivados: relatórios, análises e produtos de dados gerados a partir dos dados do cliente que o fornecedor retém além das entregas contratadas

Por que isso importa

A ambiguidade na titularidade de dados importa para TPRM porque as consequências comerciais e competitivas das lacunas de titularidade podem ser tão relevantes quanto as de violações de segurança. Um fornecedor que treina um modelo de previsão de churn com os dados comportamentais dos clientes de um banco e depois licencia capacidades equivalentes aos concorrentes do banco usou os dados proprietários do banco para criar uma desvantagem competitiva, sem violar nenhum controle de segurança. Os dados do cliente foram tratados com segurança. O ativo derivado foi usado de uma forma que serviu aos interesses comerciais do fornecedor em detrimento da posição competitiva do cliente.

O contexto de IA amplia consideravelmente esse risco. À medida que os fornecedores oferecem cada vez mais serviços de análise, previsão e recomendação baseados em IA, os modelos que constroem com dados de clientes se tornam cada vez mais centrais para suas ofertas comerciais. A capacidade de um fornecedor de oferecer ao mercado recursos de previsão de ponta depende em grande parte de ter treinado esses recursos com dados reais, ricos e de alta qualidade, que são fornecidos por seus clientes corporativos. Os clientes que fornecem esses dados estão financiando o desenvolvimento de capacidades do fornecedor, muitas vezes sem direitos contratuais sobre as capacidades resultantes nem proteções contra a oferta dessas capacidades a concorrentes.

A dimensão dos direitos dos titulares dos dados acrescenta uma camada de complexidade regulatória. Se os dados de um cliente foram usados para treinar um modelo e um titular dos dados exerce seu direito à eliminação de seus dados pessoais, o fornecedor deve excluir os registros desse titular dos conjuntos de dados de treinamento, mas os pesos do modelo treinado com esses registros permanecem. Atualmente, na maioria das jurisdições, o direito à eliminação não exige a eliminação dos pesos de modelos derivados, mas essa é uma área de desenvolvimento regulatório ativo. A ambiguidade de titularidade sobre ativos de modelos se cruza com as obrigações relativas aos direitos dos titulares de maneiras que, em geral, nenhuma das partes previu no contrato.

Onde a maioria das equipes erra

A falha mais recorrente é confiar na cláusula de titularidade de dados para reger a titularidade dos ativos derivados. Um contrato que estabelece que 'o cliente mantém a titularidade dos dados do cliente' trata do insumo do tratamento feito pelo fornecedor. Ele não trata dos resultados que o fornecedor produz ao aplicar suas capacidades a esse insumo. A titularidade dos dados e a titularidade dos ativos derivados exigem cláusulas contratuais distintas, e a ausência de cláusulas sobre ativos derivados faz prevalecer a posição do fornecedor, normalmente a titularidade do fornecedor sobre os produtos de trabalho criados com as capacidades do fornecedor, independentemente de quais dados viabilizaram esse produto de trabalho.

A segunda falha é não tratar a restrição de uso competitivo separadamente da questão da titularidade. Mesmo quando os clientes negociam a titularidade dos ativos derivados, podem não tratar especificamente se o fornecedor pode usar insights, arquiteturas de modelos ou benchmarks agregados derivados do trabalho para atender aos concorrentes do cliente. Um fornecedor que está contratualmente proibido de usar os dados específicos do cliente, mas pode desenvolver e oferecer capacidades semelhantes usando conhecimento geral do setor e dados de outros clientes, ocupa uma posição que a maioria das cláusulas de titularidade de dados não aborda.

• Confiar na cláusula de titularidade de dados para a titularidade dos ativos derivados: a titularidade dos dados de entrada e a titularidade dos ativos resultantes exigem cláusulas distintas
• Titularidade de modelos e algoritmos não tratada: modelos de ML treinados com dados do cliente que, sem especificação contratual, ficam por padrão com o fornecedor
• Ausência de restrição de uso competitivo: nenhuma proibição de que o fornecedor ofereça a concorrentes capacidades semelhantes derivadas do trabalho com o cliente
• Participação em benchmarks agregados sem governança: dados do cliente contribuindo para benchmarks setoriais do fornecedor sem cláusulas de titularidade de dados que tratem de usos agregados
• Retenção de dados após a contratação para desenvolvimento de capacidades: fornecedor que retém ativos derivados após o encerramento do contrato para uso em contratações posteriores

Como é uma boa prática

Uma governança madura da titularidade de dados nas relações com fornecedores trata explicitamente dos ativos derivados, especificando a titularidade de modelos, algoritmos, insights e outros produtos de trabalho criados a partir dos dados do cliente, restrições ao uso competitivo de capacidades derivadas do cliente e limites ao uso agregado de dados que permitam ao fornecedor construir produtos comerciais a partir da contribuição de dados do cliente.

• Cláusulas explícitas de titularidade de ativos derivados: titularidade de modelos, algoritmos, conjuntos de features e outros produtos de trabalho criados a partir dos dados do cliente especificada nas cláusulas de IP, e não deixada para as regras padrão
• Restrição de uso competitivo: proibição de que o fornecedor use dados do cliente, modelos derivados ou insights de benchmark para desenvolver ou oferecer capacidades a concorrentes nomeados
• Limitações ao uso agregado de dados: restrições à inclusão de dados do cliente em benchmarks setoriais ou produtos agregados do fornecedor sem autorização explícita
• Restrições sobre ativos após o fim da contratação: fornecedor proibido de reter ou usar modelos treinados, conjuntos de features ou outros ativos derivados após o encerramento do contrato
• Inventário de dados de treinamento de modelos: documentação de quais dados do cliente contribuíram para quais modelos, permitindo avaliar o escopo para os direitos dos titulares dos dados e para disputas de titularidade de ativos

Ferramentas

Lidar com a ambiguidade na titularidade de dados exige ferramentas de gestão de contratos e de linhagem de dados que tornem a questão da titularidade explícita e rastreável.

Gestão do ciclo de vida de contratos: Ironclad, Icertis, Contracts 365

Plataformas de CLM com modelos de cláusulas de IP permitem padronizar as cláusulas de titularidade de ativos derivados em todos os contratos com fornecedores, garantindo que toda contratação de fornecedor de IA ou análise inclua redação explícita de titularidade para modelos, algoritmos e insights derivados. Para programas de TPRM que gerenciam grandes carteiras de fornecedores, as plataformas de CLM impedem que a lacuna de titularidade persista em contratos redigidos antes que os casos de uso de treinamento de modelos de AI/ML fossem considerados.

Linhagem de dados e proveniência de modelos: MLflow, Weights & Biases, Neptune.ai

Plataformas de rastreamento de experimentos de ML registram quais dados foram usados para treinar quais modelos, fornecendo a documentação de linhagem que permite resolver disputas de titularidade e cumprir os direitos dos titulares dos dados. Para profissionais de TPRM, perguntar se o fornecedor usa rastreamento de proveniência de ML para documentar quais conjuntos de dados do cliente contribuíram para quais modelos revela se a questão da titularidade é tecnicamente rastreável ou apenas declarada no contrato.

Gestão de IP: CPA Global, Anaqua

Plataformas de gestão de IP apoiam o acompanhamento de ativos de propriedade intelectual, incluindo modelos de IA, permitindo que as organizações registrem e gerenciem reivindicações de titularidade sobre modelos e algoritmos com proveniência documentada. Para as contratações com uso intensivo de dados de maior risco, a gestão formal de IP sobre ativos derivados fornece a infraestrutura de documentação para fazer valer a titularidade.

Desafios de governança

O desafio de governança da titularidade de dados no contexto de fornecedores de AI/ML é a novidade da questão jurídica. A maioria dos modelos padrão de contrato foi desenvolvida antes de o treinamento de modelos de IA se tornar um serviço rotineiro de fornecedores, e suas cláusulas de IP, que normalmente dão aos fornecedores a titularidade dos produtos de trabalho criados com suas capacidades, foram concebidas para um contexto em que os produtos de trabalho eram documentos, análises e recomendações, e não modelos treinados que codificam padrões dos dados do cliente. Atualizar essas cláusulas exige conhecimento jurídico tanto em proteção de dados quanto em legislação de IP, o que nem sempre está disponível.

Para programas de TPRM, a prioridade prática de governança é identificar quais relações com fornecedores envolvem treinamento de AI/ML com dados do cliente e garantir que essas relações tenham cláusulas explícitas de titularidade dos ativos derivados antes do início da contratação. Negociar retroativamente a titularidade de um modelo que já foi treinado e implantado é muito mais difícil do que especificá-la antes do início do treinamento.

• Identifique as relações com fornecedores de treinamento de AI/ML: sinalize qualquer contratação de fornecedor que envolva o treinamento de modelos com dados do cliente para revisão das cláusulas de titularidade
• Inclua cláusulas sobre ativos derivados antes do início da contratação: titularidade dos modelos e restrições de uso competitivo negociadas antes do compartilhamento de dados
• Inclua restrições ao uso agregado de dados: proibição de que dados do cliente contribuam, sem autorização, para benchmarks setoriais do fornecedor
• Exija um inventário de dados de treinamento de modelos: documentação de quais conjuntos de dados do cliente contribuíram para quais modelos
• Trate do destino dos ativos após o encerramento do contrato: o que acontece com os modelos treinados ao fim do contrato

Se você faz parte de uma equipe pequena

Identifique as três relações com fornecedores de AI/ML de maior risco, ou seja, fornecedores que treinaram ou estão treinando modelos com os seus dados, e revise as cláusulas de IP de cada contrato. Pergunte especificamente: o contrato trata da titularidade dos modelos treinados com os seus dados e proíbe o fornecedor de oferecer capacidades semelhantes aos concorrentes que você nomeou? Se o contrato atual não responder a alguma dessas perguntas, você identificou uma lacuna de titularidade que exige remediação contratual antes da próxima contratação de treinamento de modelos ou da renovação do contrato.

• Revise as cláusulas de IP em todos os contratos com fornecedores de AI/ML quanto à redação sobre titularidade de ativos derivados
• Inclua restrições de uso competitivo para qualquer fornecedor que treine modelos com os seus dados
• Exija dos fornecedores de AI/ML a documentação do inventário de dados de treinamento de modelos
• Inclua restrições à participação em benchmarks agregados nos contratos com fornecedores de análise

O que exigir

Pergunte diretamente:

"Quem é dono dos modelos, algoritmos e insights derivados produzidos no seu trabalho com os nossos dados, e o seu contrato padrão atribui por padrão ao fornecedor a titularidade dos produtos de trabalho criados com as suas capacidades?"

"Vocês oferecem atualmente, ou pretendem oferecer, capacidades derivadas do seu trabalho com os nossos dados a outras organizações do nosso setor, incluindo nossos concorrentes diretos?"

"O que acontece com os modelos treinados com os nossos dados quando o contrato termina: eles são excluídos, devolvidos a nós ou retidos por vocês para uso comercial próprio?"

O que esperar como evidência

• Cláusula de titularidade de ativos derivados: redação contratual explícita sobre a titularidade de modelos e algoritmos
• Confirmação da restrição de uso competitivo: proibição de oferecer a concorrentes capacidades derivadas do trabalho com o cliente
• Documentação do tratamento dos ativos após o encerramento: exclusão ou devolução dos modelos treinados ao fim do contrato
• Inventário de dados de treinamento de modelos: quais conjuntos de dados do cliente contribuíram para quais modelos

Um fornecedor que responde à pergunta sobre titularidade com 'vocês são donos dos seus dados' confirmou a titularidade do insumo. Pergunte especificamente quem é dono dos modelos treinados com esses dados e se o fornecedor pode oferecer capacidades equivalentes a concorrentes. A cláusula de titularidade de dados cobre a matéria-prima. A questão dos ativos derivados cobre o que foi construído a partir dela.

Como comprovar

A titularidade de ativos derivados é tratada pela legislação de IP, pela legislação de proteção de dados que rege as finalidades do tratamento e pelo princípio da minimização de dados do GDPR, aplicado ao uso secundário de dados do cliente para o desenvolvimento comercial do fornecedor. Demonstrar a devida diligência exige evidências de que a titularidade dos ativos derivados foi tratada explicitamente nos contratos com fornecedores.

• Registros de revisão das cláusulas contratuais de IP que confirmam a redação sobre titularidade de ativos derivados
• Documentação da restrição de uso competitivo
• Inventário de dados de treinamento de modelos para as relações com fornecedores de AI/ML
• Confirmação do tratamento dos ativos após o encerramento do contrato

Principal conclusão

Você é dono dos seus dados. O fornecedor é dono do que construiu a partir deles, a menos que o contrato diga o contrário, e a maioria dos contratos não diz. O modelo treinado que codifica dois anos de padrões de comportamento dos seus clientes é um ativo que vale muito mais do que o projeto de consultoria que o produziu. A cláusula de titularidade de dados do contrato cobre os registros que você compartilhou. Ela não diz nada sobre o modelo que aprendeu com eles, os benchmarks construídos a partir da sua contribuição ou a inteligência competitiva que o fornecedor acumulou ao longo do trabalho. Especificar a titularidade dos ativos derivados antes de compartilhar dados não é um detalhe jurídico. É a etapa de governança que determina se você financiou uma capacidade para o seu negócio ou para o catálogo de produtos do fornecedor.