Com o avanço de novas tecnologias, está cada vez mais frequente nos depararmos com produtos e serviços baseados em algoritmos (inteligência artificial) que visam trazer maior assertividade e agilidade na tomada de decisões, impactando diretamente nas decisões e na vida das pessoas.
As decisões automatizadas já estão presentes em processos seletivos na área de recursos humanos, na concessão de crédito, estipulação de prêmios nos contratos securitários entre outras hipóteses.
Segundo Bruno Bioni, “essas são amostras de que a categorização da pessoa, a partir de seus dados pessoais, pode repercutir nas suas oportunidades sociais, no contexto de uma sociedade e uma economia movida por dados” (Proteção de Dados Pessoais – A função e os limites do Consentimento)
Assim, podemos concluir que, nem mesmo a mais alta tecnologia empregada no desenvolvimento destes algoritmos faz com que estejam isentos de possíveis falhas ou erros, podendo acarretar graves danos e prejuízos à coletividade, inclusive com viés discriminatório.
A título exemplificativo, temos o caso do dispenser automático de sabonete que não detecta a mão de um homem de pele negra, ou então, empresas que se valem de geographical princing, discriminando consumidores por conta da etnia e localização geográfica.
Para Eli Pariser, co-fundador e chefe executivo da Upworthy, presidente da MoveOn.org, co-fundador da Avaaz.org e autor do best-seller The Filter Bubble, os algoritmos que orquestram a nossa publicidade, estão começando a orquestrar a nossa vida!!
Felizmente o legislador brasileiro, seguindo os caminhos da #GDPR, trouxe esculpido na #LGPD o direito do titular de dados em solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado de dados pessoais que afetem seus interesses, incluídas as decisões destinadas a definir o seu perfil pessoal, profissional, de consumo e de crédito ou ainda os aspectos de sua personalidade, o chamado profiling.
A LGPD ainda estabelece que o controlador de dados pessoais deverá fornecer, sempre que solicitadas, informações claras e adequadas a respeito dos critérios e dos procedimentos utilizados para a decisão automatizada.
Em razão da relevância do tema e os prejuízos que podem decorrer do uso indiscriminado de decisões automatizadas, espera-se que a Autoridade Nacional de Proteção de Dados – ANPD, traga uma regulamentação acerca do tema.
Eu acho sim, que a as decisões automatizadas podem ajudar em ALGUNS casos, mas não podem, jamais, substituir a mente humana para tomada de decisões que desafiam a lógica. As pessoas não são 100% previsíveis.
Eu acho que isso ainda vai dar muito pano pra manga
Eu acho até interessante essa ideia de decisões automáticas, contanto, que seja para decisões sem nenhum nível de complexidade. Apesar de existirem padrões, o ser humano é mutável e algumas vzs imprevisível, muita coisa deve ser avaliada em uma tomada de decisão.
Eu não acho, e também espero, que isso não retire a importância de uma análise humana.
Acho que tem muito pano pra manga ainda…