Open (For Business): Big Tech, Concentrated Power, and the Political Economy of Open AI: “Embora as preocupações com a segurança e a concentração devam ser abordadas, quer através da IA ‘open source’, quer apesar dela, devem ser consideradas como parte de um quadro muito mais vasto. O aumento dos já elevados níveis de concentração do mercado cria, por si só, danos à segurança, como a introdução de pontos únicos de falha através dos quais o risco sistémico pode ser disseminado. E há muitos outros danos que vão muito além das considerações de segurança a ter em conta no que respeita à implantação de grandes sistemas preditivos em domínios sociais e políticos sensíveis.

Do mesmo modo, a ‘abertura’ na IA não conduz diretamente à inovação, apesar das alegações em contrário; certamente não quando a presença significativa da indústria, a propriedade corporativa da infraestrutura dispendiosa necessária para criar novos sistemas de IA e a captura corporativa do campo da investigação académica em IA constituem o pano de fundo da investigação ‘open’ em IA. As provas indicam que estes factores já estão a contribuir para o desenvolvimento de uma monocultura da IA, incentivando a criação apenas dos tipos de sistemas de IA em que a indústria está mais investida e com os quais pode lucrar.

Criar alternativas significativas à tecnologia definida e dominada por grandes empresas monopolistas é e continua a ser um objetivo louvável – um objetivo que exige a criação de alternativas às infra-estruturas dominadas pelas empresas. Esta é uma necessidade particularmente premente, uma vez que os sistemas de IA estão integrados em muitos domínios altamente sensíveis com um impacto público particular: nos cuidados de saúde, nas finanças, na educação e no local de trabalho, a IA tem efeitos difusos e profundos que não devem ser determinados por um pequeno punhado de empresas com fins lucrativos e que não podem ser compreendidos simplesmente através da análise do código e da documentação do sistema no vácuo. A criação de alternativas significativas não será conseguida apenas através da procura de um desenvolvimento de IA ‘open’ ao máximo. Precisamos de um âmbito mais alargado para o desenvolvimento da IA e de uma maior diversidade de métodos, bem como da construção de IA e de outros sistemas que respondam de forma mais significativa às necessidades do público e não aos interesses comerciais. A criação de condições que tornem possíveis essas alternativas é um projeto que pode coexistir com a regulamentação, e até ser apoiado por ela. Mas depositar as nossas esperanças na IA ‘open source’, isoladamente, não nos conduzirá a esse mundo e, em muitos aspectos, poderá tornar as coisas muito piores”.