Newsletters
por Eduardo Magrani, Consultor Sénior na área de TMT da CCA Law Firm
Os sistemas de recomendação (“Recommender Systems” ou "RS") estão atualmente amplamente implementados em múltiplas dimensões da realidade digital. Em virtude destes números crescentes, os sistemas de recomendação tornaram-se ferramentas indispensáveis e omnipresentes e são atualmente utilizados para personalizar as escolhas e classificar os conteúdos em plataformas e aplicações em linha.
Os RS são algoritmos que selecionam - ou que identificam como - informações relevantes, adaptando-as a utilizadores individuais através de técnicas de processamento de dados e inteligência artificial (“IA”). Desta forma, os RS são utilizados para as mais diversas finalidades, recomendando desde notícias relevantes, novos amigos ou conteúdos de publicidade direcionada e comportamental, entre muitas outras possibilidades.
Perante o aumento da importância destes sistemas, estão a surgir regulações e propostas regulatórias para se enfrentar os desafios multifacetados gerados pelos RS. Muitas destas regras jurídicas propostas são extraídas de diretrizes éticas, baseadas em valores como transparência, justiça, não maleficência, beneficência, responsabilização, privacidade, liberdade, autonomia, dignidade e solidariedade, com intuito de se mitigar eventuais efeitos negativos trazidos pelos RS.
Dentro do contexto regulatório, o Regulamento Geral sobre a Proteção de Dados (RGPD) representa um quadro normativo fundamental para abordar muitos dos riscos representados pelos RS. Como os dados são o motor desta tecnologia, o RGPD introduz uma estrutura positiva em prol de um maior controlo dos utilizadores sobre os seus dados, ao estabelecer uma série de direitos, princípios e requisitos para o tratamento de dados pessoais, incluindo no caso de decisões automatizadas e de criação de perfis.
Além do RGPD na Europa, o Digital Services Act (DSA) e o Artificial Intelligence Act (AI Act ou AIA) também desempenham um papel importante na regulamentação e tendências regulatórias aplicáveis aos RS.
O DSA visa estabelecer regras claras e parâmetros de responsabilidade para os prestadores de serviços digitais, de forma a garantir a segurança dos utilizadores, combater a disseminação de conteúdo ilegal e garantir a transparência nas práticas de moderação de conteúdo. Nesta linha, o DSA, ao tratar da transparência dos RS, estabelece que os fornecedores de plataformas em linha que utilizem RS devem inserir nos seus termos e condições, em linguagem clara e inteligível, os principais parâmetros utilizados nos seus RS, bem como quaisquer opções que permitam aos destinatários do serviço alterar ou influenciar estes parâmetros. Além disso, os fornecedores devem explicar por que motivo determinadas informações são sugeridas ao destinatário do serviço, incluindo, pelo menos: (i) os critérios mais significativos para determinar as informações sugeridas ao destinatário do serviço; (ii) os motivos da importância relativa destes parâmetros.
O AI Act, por sua vez, considerado como uma importante tendência regulatória voltada para o tema específico da IA, também toca o tema dos RS. O AIA possui o intuito de estabelecer regras harmonizadas para o desenvolvimento, a colocação no mercado e a utilização de sistemas de IA na União Europeia com o objetivo de garantir que os sistemas sejam confiáveis e facilitar o desenvolvimento de um mercado único para sistemas legítimos e seguros.
Ao propor uma regulação baseada em risco, o AIA estabelece requisitos mínimos de compliance pautados pela transparência, explicabilidade e supervisão humana, sobretudo para as IAs consideradas como de alto risco. Numa das alterações mais recentes no texto da proposta, o Parlamento Europeu definiu justamente aos RS utilizados por plataformas de media sociais como suscetíveis de serem sistemas considerados de alto risco.
Os RS são de extremo valor para ajudar os utilizadores a encontrarem mais rapidamente as informações que precisam e que lhes interessa. Entretanto, em conjunto com o seu enorme potencial, é importante dar atenção à tendência regulatória que aponta para a necessidade de um maior compliance por parte das empresas que utilizam este tipo de tecnologia, com intuito de mitigar riscos e eventuais danos associados a RS.