A era da inteligência artificial (IA) transformou nossas interações, mas ameaça a dignidade humana em uma escala mundial, de acordo com um estudo liderado pela Universidade Charles Darwin (CDU).
A autora principal do estudo, Dra. Maria Randazzo, uma acadêmica da Escola de Direito da CDU, descobriu que a tecnologia estava remodelando as paisagens legais e éticas ocidentais em uma velocidade sem precedentes, mas estava minando valores democráticos e aprofundando preconceitos sistêmicos.
A Dra. Randazzo afirmou que a atual regulamentação falhou em priorizar direitos e liberdades humanos fundamentais, como privacidade, não discriminação, autonomia do usuário e direitos de propriedade intelectual – principalmente devido à natureza indetectável de muitos modelos algorítmicos.
Denominando essa falta de transparência de “problema da caixa preta”, a Dra. Randazzo disse que as decisões tomadas por processos de aprendizado profundo ou aprendizado de máquina eram impossíveis para os humanos rastrearem, dificultando que os usuários determinassem se e por que um modelo de IA violou seus direitos e dignidade, além de buscar justiça quando necessário.
“Esta é uma questão muito significativa que só tende a piorar sem uma regulamentação adequada”, disse a Dra. Randazzo.
“A IA não é inteligente de forma alguma no sentido humano. É um triunfo da engenharia, não do comportamento cognitivo.
“Ela não tem ideia do que está fazendo ou por quê – não há processo de pensamento como um humano entenderia, apenas reconhecimento de padrões desprovido de corporeidade, memória, empatia ou sabedoria.”
Atualmente, as três principais potências digitais do mundo – os Estados Unidos, a China e a União Europeia – estão adotando abordagens marcadamente diferentes em relação à IA, confiando em modelos centrados no mercado, no estado e no ser humano, respectivamente.
A Dra. Randazzo disse que a abordagem humanocêntrica da UE é o caminho preferido para proteger a dignidade humana, mas sem um comprometimento global com esse objetivo, mesmo essa abordagem é insuficiente.
“Globalmente, se não ancorarmos o desenvolvimento da IA ao que nos torna humanos – nossa capacidade de escolher, sentir, raciocinar com cuidado, ter empatia e compaixão – corremos o risco de criar sistemas que desvalorizem e aplanem a humanidade em pontos de dados, em vez de melhorar a condição humana,” ela disse.
“A humanidade não deve ser tratada como um meio para um fim.”
“A dignidade humana na era da inteligência artificial: uma visão geral de questões legais e regimes regulatórios” foi publicada no Australian Journal of Human Rights.
O artigo é o primeiro de uma trilogia que a Dra. Randazzo produzirá sobre o tema.
