Document details

Initially celebrated as enablers of democratic expression, social media platforms have paradoxically become powerful gatekeepers, exerting unprecedented forms of control over speech that would have been unimaginable in the pre-digital era. Amid rising concerns over their role on social fragmentation—from youth mental health crises to electoral instability—regulators have begun scrutinizing these mechanisms of speech (content) control. Early attempts at “new school speech regulation” focused on content removal, overlooking a far more structural and consequential form of speech governance. Platforms today shape public discourse not just through reactive takedown mechanisms, but proactively—via algorithms that sort, rank, and deliver content to users—impacting both commercial and non-commercial expression, regardless of illegalities or perceived harmfulness. While newer regulations have begun to address this reality—for example, the Digital Services Act introduces a framework aimed at mitigating systemic risks related to AI-driven “recommender systems”—responses remain overly reliant on procedural transparency and industry self-assessments, an approach that falls short of ensuring meaningful platform accountability. Missing from the current regulatory landscape is a framework that directly confronts the structural role of algorithms in shaping speech circulation, prioritizes robust protections against the commercial manipulation of free expression and democratic participation, and explores more effective mechanisms of platform accountability to ensure genuine democratic oversight. This paper critiques gaps in existing literature, identifies key shortcomings in EU legislation on AI and platform accountability and calls for an urgent reorientation of regulatory debates towards these objectives. It advances both concrete measures to protect free speech and democratic participation online, and a theoretical foundation to guide such reforms in a way that aligns technological governance with democratic values.

Inicialmente celebradas como facilitadoras da expressão democrática, as plataformas de mídia social tornaram-se paradoxalmente poderosos guardiões, exercendo formas de controle inéditas sobre a expressão que seriam inimagináveis na era pré-digital. Em meio a crescentes preocupações sobre o seu papel na fragmentação social—desde crises de saúde mental entre os jovens até instabilidades eleitorais—reguladores têm voltado atenção a estes mecanismos de controle. As primeiras tentativas de regulação new school de expressão concentraram-se na remoção de conteúdo, negligenciando uma forma de governança da expressão muito mais estrutural e consequente. Atualmente, as plataformas moldam o discurso público não apenas por meio de mecanismos reativos de remoção, mas de forma proativa— através de algoritmos que classificam, hierarquizam e distribuem conteúdo aos utilizadores—afetando tanto a expressão comercial quanto a não comercial, independentemente de ilegalidades ou suposta nocividade. Embora regulamentos mais recentes tenham começado a abordar essa realidade—por exemplo, o Regulamento dos Serviços Digitais (Digital Services Act) introduz um regime destinado a mitigar riscos sistêmicos relacionados aos “sistemas de recomendação” impulsionados por IA—suas respostas continuam excessivamente dependentes de transparência processual e autoavaliações do setor, uma abordagem insuficiente para garantir uma responsabilização significativa das plataformas. O que falta no cenário regulatório atual é uma estrutura que enfrente diretamente o papel estrutural dos algoritmos na moldagem da circulação da expressão, que priorize proteções robustas contra a manipulação comercial da liberdade de expressão e da participação democrática, e que explore mecanismos mais eficazes de responsabilização das plataformas para garantir uma supervisão democrática genuína. Este trabalho critica lacunas na literatura existente, identifica deficiências-chave na legislação da União Europeia sobre IA e responsabilização de plataformas, e clama por uma reorientação urgente dos debates regulatórios para esses objetivos. Ele avança tanto medidas concretas para proteger a liberdade de expressão e a participação democrática online, quanto uma base teórica para guiar tais reformas de forma a alinhar a governança tecnológica com os valores democráticos.