Robôs de empresas aprendem a manipular preços a ponto de cometerem crimes?

Daniel Schultz, Monica Matsumoto e Shridhar Jayanthi

sobre os colunistas

Daniel Schultz é cientista, professor de microbiologia e membro do núcleo de ciências computacionais em Dartmouth (EUA). Estuda a dinâmica dos processos celulares, com foco na evolução de bactérias resistentes a antibióticos. É formado em engenharia pelo ITA, doutor em química pela Universidade da Califórnia San Diego e pós-doutorado em biologia sistêmica em Harvard. Possui trabalhos de alto impacto publicados em várias áreas, da física teórica à biologia experimental, e busca integrar essas várias áreas do conhecimento para desvendar os detalhes de como funciona a vida ao nível microscópico.

Monica Matsumoto é cientista e professora de Engenharia Biomédica no ITA. Curiosa, tem interesse em áreas multidisciplinares e procura conectar pesquisadores em diferentes campos do conhecimento. É formada em engenharia pelo ITA, doutora em ciências pela USP e trabalhou em diferentes instituições como InCor/HCFMUSP, UPenn e EyeNetra.

Shridhar Jayanthi é agente de patentes com registro no escritório de patentes norte-americano (USPTO). Tem doutorado em engenharia elétrica pela Universidade de Michigan (EUA) e diploma de engenheiro de computação pelo ITA. Atualmente, trabalha com empresas de alta tecnologia para facilitar obtenção de patentes e, nas (poucas) horas vagas, é estudante de problemas na intersecção entre direito, tecnologia e sociedade. Antes disso, teve uma vida acadêmica com passagens pela Rice, MIT, Michigan, Pennsylvania e no InCor/USP, e trabalhou com pesquisa em áreas diversas da matemática, computação e biologia sintética.

08/12/2020 04h00

O funcionamento e a eficácia do mercado como indutor de desenvolvimento e de ganhos de produtividade dependem em grande medida da livre concorrência. Empresas são incentivadas a desenvolver produtos melhores ou mais baratos para poder ganhar de seus competidores, resultando em um progresso tecnológico que beneficia a sociedade. Mas para essa coisa funcionar, a concorrência precisa ser, de fato, livre.

A formação de cartéis por empresas rivais é um exemplo de impedimento à livre concorrência. Foi, por exemplo, o crime econômico na base do escândalo das construtoras OAS e Odebrecht, que formaram um cartel para aumentar o valor dos contratos de licitação de estatais como a Petrobras.

A formação de um cartel exige um acordo entre empresas diferentes. Mas o uso cada vez mais corriqueiro de sistemas de machine learning para precificação de produtos cria um risco de as máquinas de empresas diferentes formarem acordos entre si. Essa possibilidade curiosa de algoritmos cartelizados (algorithmic collusion) tem fascinado economistas, legisladores e desenvolvedores de software: o que fazer com um crime econômico acidental causado por computadores?

Para entender como os cartéis feitos por algoritmos são formados, pesquisadores têm explorado esse problema utilizando simulações. Um estudo publicado por Calvano et al. utilizou uma simulação com duas empresas (sistema multiagentes), cada um com uma estratégia simples de formação de preços.

Esse estudo mostrou que as empresas chegavam em equilíbrio na formação de preços que era indicativa de um cartel, apesar de não haver comunicação direta entre as partes.

Em publicados por Timo Klein.

Um inteligência artificial para formação de preços começaram a ser adotados por postos de gasolina a partir de 2017.

De acordo com os autores, a adoção de inteligência artificial causou aumentos de cerca de 9% nos preços em regiões com vários postos de gasolina, e de 28% em mercados com duopólios. É esse tipo de aumento que leis antitruste tentam evitar.

Um problema na determinação de formação de cartel entre algoritmos é que esse processo não se dá através de um acordo explícito. Ao contrário das empreiteiras, que escolhiam os preços na licitação através de negociações diretas, os algoritmos formam acordos de forma tácita. Eles não conversam diretamente e sim através da avaliação de preços no mercado.

Esse tipo de dinâmica tácita, sem acordo explícito, é perfeitamente legal entre humanos. Mas, talvez por maior capacidade dinâmica dos algoritmos às condições de mercado ou talvez por maior capacidade de processar informações para formar preços, os algoritmos acabam atingindo preços de cartel sem comunicação explícita.

O cartel se forma justamente porque é a forma que maximiza os lucros de todos os agentes no mercado, e os algoritmos só são uma forma de atingir esse estágio mais rapidamente.

Há, porém, quem enxergue excessos na preocupação com algoritmos formando cartéis sem comunicação.

Schrepel considera que cartéis formados por algoritmos são em essência idênticos aos formados por humanos e que, portanto, técnicas existentes para descoberta de cartéis seriam suficientes para coibir esse tipo de crime.

O que mais preocupa o autor é a possibilidade criada por blockchains e contratos inteligentes (smart contracts) de viabilizar comunicação direta entre as partes na formação de cartéis voluntários.

À medida que sistemas autônomos, sistemas de inteligência artificial e sistemas de aprendizado de máquina vão participando mais e mais da economia, vai também aumentando a possibilidade dessas máquinas de cometerem crimes e violações legais à revelia dos donos.

Essas questões são complexas, pois sistemas jurídicos foram criados para condenar más intenções. E, com exceção talvez de sua impressora, sistemas computadorizados não têm intenção alguma.

** Este texto não reflete, necessariamente, a opinião do UOL

Fonte: https://www.uol.com.br/tilt/colunas/para-onde-o-mundo-vai/2020/12/08/carteis-formados-por-roboes.htm