Analysis
Artificial intelligence: law, risk and accountability in organisations
Original in Portuguese: Inteligência artificial: direito, risco e responsabilidade nas organizações
· 4 min read · Original in Portuguese · Reflexão pessoal
This publication is only available in Portuguese.
Legal reflection on the 6 November 2026 training session at the University of Madeira: the AI Act, GDPR and responsible AI governance in public and private organisations.
Imagem editorial original associada a esta reflexão. Não reproduz os diapositivos nem constitui uma síntese da apresentação da formadora.
No dia 6 de novembro de 2026, participei, juntamente com o meu colega Eng.º Paulo Dias, na formação «Inteligência Artificial e Proteção de Dados na Região Autónoma da Madeira: Os Desafios Jurídicos do Novo Quadro Jurídico Europeu», realizada na Universidade da Madeira, por iniciativa da Associação de Direito Regional da Região Autónoma da Madeira (ADRAM), em parceria com a Universidade da Madeira, e conduzida pela Professora Dra. Cristina Caldeira.
A sessão constitui o ponto de partida para uma reflexão pessoal: a principal dificuldade das organizações não está apenas na adoção de sistemas de inteligência artificial (IA), mas na capacidade de identificar os riscos, demonstrar a conformidade e assumir a responsabilidade pelas decisões apoiadas por essas tecnologias.
1. Um quadro jurídico que exige distinguir riscos e funções
O Regulamento (UE) 2024/1689 (AI Act) estabelece regras harmonizadas para a IA na União Europeia, incluindo práticas proibidas, deveres de transparência e regimes específicos para determinadas aplicações de risco elevado. A disciplina aplicável depende, designadamente, da utilização concreta do sistema e da posição da organização enquanto fornecedora ou responsável pela implantação.
Isto significa que nem toda a utilização de IA é de risco elevado e que as obrigações não são idênticas para todos os intervenientes. A classificação tem de ser feita caso a caso, com atenção às finalidades reais do sistema, aos dados utilizados e aos potenciais efeitos sobre pessoas e direitos fundamentais.
O calendário também importa: as regras sobre literacia em IA e práticas proibidas começaram a aplicar-se em 2 de fevereiro de 2025; outras disposições passaram a aplicar-se em 2 de agosto de 2026. Na sequência da alteração de 2026, a aplicação de determinadas regras relativas a sistemas de risco elevado foi diferida para 2 de dezembro de 2027 e, para sistemas associados a determinados produtos, para 2 de agosto de 2028. Não se deve, por isso, confundir a entrada em vigor do regulamento com a aplicação simultânea de todas as suas obrigações.
2. Administração Pública: a tecnologia não substitui a responsabilidade administrativa
A IA pode apoiar a análise de informação, a organização de processos, a preparação de documentos e o tratamento de tarefas repetitivas. Contudo, o seu uso deve respeitar o enquadramento jurídico da atividade administrativa, incluindo os princípios da legalidade, imparcialidade, proporcionalidade e boa administração.
Quando uma decisão administrativa é apoiada por IA, a utilização da ferramenta não dispensa a entidade competente de assegurar os pressupostos legais, a fundamentação exigível, a rastreabilidade do procedimento e as garantias dos interessados. A intensidade da intervenção humana e dos controlos deve ser definida à luz das normas aplicáveis e dos riscos concretos, não como uma fórmula abstrata idêntica para todos os casos.
3. Empresas: os riscos não se limitam à proteção de dados
No setor privado, a IA pode intervir no recrutamento, na gestão de trabalhadores, na relação com clientes, na deteção de fraude ou na avaliação de riscos. A adoção destas soluções pode suscitar questões de discriminação, transparência, confidencialidade, segurança da informação, deveres contratuais e responsabilidade.
A utilização de dados pessoais convoca o Regulamento Geral sobre a Proteção de Dados (RGPD), nomeadamente os princípios do artigo 5.º, os fundamentos de licitude do artigo 6.º e, quando aplicável, as regras sobre avaliação de impacto e decisões exclusivamente automatizadas. Importa distinguir: o artigo 22.º do RGPD não proíbe toda a utilização de IA nem atribui um direito universal de revisão humana de qualquer resultado automatizado; dirige-se às decisões abrangidas pelos seus pressupostos e exceções legais.
4. Compliance de IA: menos declarações, mais evidência
Uma política interna, por si só, não comprova a conformidade de uma organização. É necessário demonstrar como as exigências normativas se traduzem em controlos operacionais. Como ponto de partida, as organizações devem conseguir responder a cinco perguntas:
- Que sistemas são utilizados e com que finalidade? Inventariar ferramentas e casos de utilização.
- Quem decide e quem responde? Identificar funções, competências e responsabilidades.
- Quais os riscos jurídicos e operacionais? Avaliar, de forma proporcionada, os efeitos sobre pessoas, processos, dados e segurança.
- Que controlos estão implementados? Prever validação, supervisão, instruções internas, formação, gestão de fornecedores e resposta a incidentes, conforme aplicável.
- Que prova documental existe? Registar avaliações, decisões, exceções, verificações e medidas corretivas.
Esta abordagem exige articulação entre direção, áreas jurídica e de compliance, proteção de dados, recursos humanos, contratação e equipas tecnológicas. A governação da IA é, por natureza, multidisciplinar.
5. Inovar com responsabilidade
A adoção da IA não deve ser vista como uma escolha entre eficiência e legalidade. Uma organização que conhece os limites das suas ferramentas e consegue documentar os seus mecanismos de controlo está mais bem preparada para inovar com confiança.
Na Região Autónoma da Madeira, a discussão é particularmente pertinente para a modernização dos serviços públicos e para a transformação digital das empresas. O desafio é passar da utilização individual de ferramentas à criação de modelos de governação institucional, ajustados às funções, riscos e obrigações de cada entidade.
Agradeço à Professora Dra. Cristina Caldeira, à ADRAM e à Universidade da Madeira a oportunidade de aprofundar esta reflexão.
Questão para debate: as organizações estão a introduzir soluções de IA mais rapidamente do que conseguem avaliar os seus riscos jurídicos e definir quem responde pela sua utilização?
Fontes normativas e institucionais
- Regulamento (UE) 2024/1689 — AI Act, EUR-Lex (consultar a versão consolidada atual).
- Regulamento (UE) 2016/679 — RGPD, EUR-Lex.
- Comissão Europeia — quadro regulatório para a IA e calendário de aplicação.
Etiquetas: #InteligenciaArtificial #AIAct #RGPD #Compliance #AIGovernance #ProtecaoDeDados #UniversidadeDaMadeira #ADRAM #Madeira #ConformidadeEmFoco
Nota editorial: reflexão pessoal sobre os desafios jurídicos suscitados pela matéria da formação, sem transcrição ou reprodução dos materiais apresentados.
Citation: Castro, Rui. "Inteligência artificial: direito, risco e responsabilidade nas organizações". 8 de novembro de 2026. https://ruicastro.pt/publicacoes/ia-direito-risco-responsabilidade-organizacoes