nsc

publicidade

Thays Tumelero

O uso de inteligência artificial e o respeito aos princípios e garantias fundamentais

Alguns casos pesquisados revelam que o uso dessas ferramentas já causaram manifestações preconceituosas pelas máquinas, bem como a tomada de decisões de cunho discriminatório

04/10/2019 - 13h38

Compartilhe

Por Tech SC
(Foto: )

(Foto: )

A Inteligência Artificial (I.A.) vem sendo aprimorada e testada por décadas. Sua utilidade ganhou ainda mais aplicabilidade nos últimos anos. Ela vem sendo usada em diversas ferramentas utilizadas diariamente que viabilizam melhores rotas de trânsito, preferência de música, filmes, localização de pessoas desaparecidas ou até mesmo identificação de um foragido da justiça através do reconhecimento facial.

Segundo relatório da Organização Mundial de Propriedade Intelectual (OMPI), cerca de 170 mil pedidos de patentes na área de Inteligência Artificial foram feitos a partir de 2013. Essa velocidade na produção de soluções de I.A. e os impactos devem ser analisados com atenção no que tange à privacidade e outros direitos fundamentais, como a igualdade e não discriminação.

Para melhor compreender o debate é importante esclarecer que a I.A. é desenvolvida com o intuito de simular o pensamento humano, garantindo ao dispositivo a tomada de decisões de forma autônoma, a partir do acesso a enormes bancos de dados.

Alguns casos pesquisados revelam que o uso dessas ferramentas já causaram manifestações preconceituosas pelas máquinas, bem como a tomada de decisões de cunho discriminatório.

No ano de 2016, a Microsoft retirou do Twitter o robô Tay, que em 24 horas de funcionamento passou a adotar comportamento racista, sexista, com manifestação favorável ao nazismo, tudo isso extraído e aprendido da rede. O robô era apenas uma ferramenta de comunicação, por isso, a consequência, ainda que grave, não passou de ofensas.

Outro caso emblemático é o da Amazon, que desenvolveu e utilizou uma ferramenta de I.A. para contratação de funcionários para a companhia que acabava por discriminar pessoas do sexo feminino, pois sua base de referência era de colaboradores predominante do sexo masculino (histórico de mais de 10 anos). A ferramenta foi inativada pela empresa.

O desenvolvimento de algoritmos e a base de dados disponibilizada para o treinamento e aprimoramento da tecnologia impactam e muito na decisão e resposta fornecida pela I.A. Ou seja, uma base restrita pode resultar em decisões discriminatórias.

A I.A. é desenvolvida com o intuito de simular o pensamento humano, garantindo ao dispositivo a tomada de decisões de forma autônoma, a partir do acesso a enormes bancos de dados.

Outra grande polêmica envolvendo a utilização da Inteligência Artificial é sob a ótica do uso de dados pessoais de forma indiscriminada pelas plataformas. As mesmas precisarão obter consentimento ou encontrar amparo em outra base legal que justifique o seu tratamento com a entrada em vigor da Lei Geral de Proteção de Dados em agosto de 2020.

No mês de setembro foi publicado o Projeto de Lei n. 5.051/2019 que visa estabelecer princípios para o uso da Inteligência Artificial no Brasil. Apesar de enxuto (apenas sete artigos) o referido projeto, atualmente na Comissão de Ciência, Tecnologia, Inovação, Comunicação e Informática (CCT), preceitua que os sistemas decisórios baseados em Inteligência Artificial serão sempre auxiliares às decisões humanas.

Muito embora o projeto esteja longe de ser aprovado, inaugurou uma importante discussão no âmbito do Poder Legislativo, que deverá, assim como o Judiciário, buscar mecanismos de estimular a inovação sem violar os direitos e garantias individuais.

*Thays Joana Tumelero é especialista em Proteção de Dados e Privacidade, pelo Instituto de Ensino e Pesquisa (Insper) e atua como vice-presidente da Comissão de Direito das Startups da OAB/SC.

Deixe seu comentário:

publicidade