As tecnologias de inteligência artificial podem ser de grande utilidade para a humanidade, mas também levantam preocupações éticas fundamentais, por exemplo, em relação aos preconceitos que podem incorporar e exacerbar, resultando potencialmente em discriminação, desigualdade, divisões digitais, exclusão e uma ameaça à diversidade cultural, biológica e divisões sociais ou econômicas. A necessidade de transparência e compreensão do funcionamento dos algoritmos e dos dados com os quais foram treinados; e seu impacto potencial sobre, incluindo, mas não limitado a dignidade humana, direitos humanos e liberdades fundamentais, igualdade de gênero, democracia, processos sociais, econômicos.
A necessidade de regulamentar seu uso tornou-se uma questão crucial na sociedade moderna. No Brasil, diferentes iniciativas estão sendo implementadas visando estabelecer diretrizes claras para o uso da IA e garantir a supervisão humana, bem como promover a proteção dos dados pessoais.
Uma lei no Ceará, por exemplo, exige que a utilização da IA seja supervisionada por humanos, evitando a tomada de decisões totalmente autônomas por parte dos sistemas inteligentes. Essa medida demonstra o reconhecimento da importância do controle humano no uso da IA, evitando possíveis abusos ou erros que poderiam ser cometidos por máquinas sem intervenção humana [1].
Da mesma forma, o projeto aprovado em primeiro turno pela Assembleia Legislativa de Alagoas propõe diretrizes para o uso da IA pela administração pública, estabelecendo critérios claros que devem ser seguidos para garantir a ética e a transparência no emprego dessa tecnologia. Essas diretrizes visam evitar a tomada de decisões discriminatórias ou prejudiciais aos interesses dos cidadãos [2].
Um importante ponto a ser considerado na regulamentação da IA é a proteção dos dados pessoais. O debate no Senado brasileiro ressaltou a necessidade de cuidado especial com os dados pessoais ao se lidar com a regulamentação da IA. É fundamental garantir a privacidade e o consentimento informado dos indivíduos, bem como criar mecanismos robustos de segurança para prevenir o acesso indevido ou o uso inadequado das informações pessoais [3].
Conforme mencionado acima, a movimentação da temática no Brasil é visível, mas ainda está longe do modelo ideal de governança e colaboração multissetoriais.
Cada setor representa um contexto diferente que tem implicações diferentes, em termos de estrutura da indústria, regulação e formulação de políticas, para sistemas de IA. As diretrizes e regulamentos de governança relacionados à IA, deve se basear em uma abordagem baseada em riscos que incorpora vários riscos ligados a outros setores.
Muitas leis, normas e diretrizes devem ser observados em especial no Brasil, uma vez que a regulamentação deverá harmonizar com cada diploma, com observação as particularidades da IA, qual seja: Declaração Universal dos Direitos Humanos (1948), o CDC, CLT, CC, LGPD, MCI, Estatuto do Deficiente, Lei da Diversidade, Lei de Igualdade Racial, Estatuto da Criança e Adolescente, ISO 27.701, 27.001, 19.011 e 24.027 bem como quaisquer outros instrumentos, recomendações e declarações nacionais e internacionais relevantes, e que o rápido desenvolvimento das tecnologias de IA desafia sua implementação e governança pública e privada
Diante desse cenário, é possível esperar que em 2024 a regulamentação da IA no Brasil avance ainda mais, com a criação de novas leis e aprimoramento das existentes. É provável que sejam adotadas medidas para garantir a supervisão humana e o respeito aos direitos dos cidadãos, especialmente no que diz respeito a transparência, ética e o uso dos dados pessoais.
Neste panorama, as empresas e instituições que fazem uso da IA devem, no mínimo:
- Investir em práticas de segurança e privacidade: implementar medidas robustas de segurança cibernética e proteção de dados, garantindo o armazenamento adequado e seguro das informações pessoais.
- Adotar princípios éticos: estabelecer diretrizes claras para o uso responsável da IA assegurando a tomada de decisões justas, não discriminatórias e transparentes.
- Adotar padrões éticos globalmente aceitos para tecnologias de IA, em pleno respeito ao direito internacional, em particular o direito dos direitos humanos, podem desempenhar um papel fundamental no desenvolvimento de diretrizes do uso de IA.
- Promover a transparência e o consentimento: informar aos usuários sobre o uso da IA, os objetivos, os métodos e as possíveis consequências, garantindo o consentimento informado e a participação ativa dos indivíduos.
- Accountability-responsabilidade e prestação de contas: a transparência e a explicabilidade estão intimamente relacionadas com medidas adequadas de responsabilidade e prestação de contas, bem como com a confiabilidade dos sistemas de IA. Isso implica determinar se informações significativas e fáceis de entender são disponibilizadas.
- Fazer avaliações de impacto: avaliar o impacto sobre a privacidade e os direitos dos usuários antes de implementar sistemas de IA, de forma a identificar potenciais riscos e adotar as medidas adequadas para mitigá-los.
- Adotar o uso de código de ética: deve garantir o cumprimento da Constituição, que em seu artigo 3º dispõe que “constituem objetivos fundamentais da República Federativa do Brasil: IV — Promover o bem de todos, sem preconceitos de origem, raça, sexo, cor, idade e quaisquer outras formas de discriminação”.
Em conclusão, a regulamentação da IA é questão fundamental e urgente para agenda de 2024, para garantir o uso ético e responsável dessa tecnologia em benefício da sociedade. A implementação de diretrizes claras e a supervisão humana são essenciais para evitar abusos e proteger os direitos individuais e coletivos.
Esperamos evolução da agenda regulatória para a criação de um órgão fiscalizatório de acordo com suas condições específicas, para monitorar e avaliar com credibilidade e transparência as políticas, programas e mecanismos relacionados à ética e desenvolvimento da IA, para zelar pela proteção dos sistemas de IA, fiscalizar, fortalecer a análise baseada em pesquisas e evidências e relatórios sobre o uso correto relacionados à IA, coletar e divulgar progressos, inovações, relatórios de pesquisa, publicações científicas, dados e estatísticas sobre políticas de ética em IA, inclusive por meio de iniciativas existentes, para apoiar o compartilhamento de melhores práticas e aprendizado mútuo.
Nesse sentido, é importante acompanhar as iniciativas em andamento e estar atento às recomendações mencionadas.
Fontes:
[1] Lei do Ceará exige inteligência artificial sob supervisão humana – https://tecnoblog.net/noticias/2021/08/17/lei-do-ceara-exige-inteligencia-artificial-sob-supervisao-humana/
[2] Aprovado em 1º turno projeto que estabelece diretrizes para o uso da inteligência artificial pela administração pública – https://www.al.al.leg.br/comunicacao/noticias/aprovado-em-1o-turno-projeto-que-estabelece-diretrizes-para-o-uso-da-inteligencia-artificial-pela-administracao-publica
[3] Regulação da Inteligência Artificial exige cuidado com dados pessoais, aponta debate – https://www12.senado.leg.br/noticias/materias/2023/10/19/regulacao-da-inteligencia-artificial-exige-cuidado-com-dados-pessoais-aponta-debate
Flávia Alcassaé sócia-fundadora do escritório Alcassa & Pappert Advogados, DPO, professora universitária, especializada em Direito Digital Corporativo, Bancário e compliance.- Milena Papperté advogada especialista em Direito Digital, DPO certificada pela Exin, professora e palestrante.
