O presidente do Senado, Rodrigo Pacheco (PSD-MG), protocolou um projeto de lei para estabelecer um marco regulat\u00f3rio sobre o uso da tecnologia de intelig\u00eancia artificial (IA) no pa\u00eds. O texto foi elaborado por juristas e professores especialistas em direito civil e digital.<\/p>\n
Um dos principais pontos do texto \u00e9 a previs\u00e3o de responsabiliza\u00e7\u00e3o do fornecedor ou operador do sistema de intelig\u00eancia artificial, na medida de sua participa\u00e7\u00e3o em eventual dano causado. No caso de IAs cuja aplica\u00e7\u00e3o envolva alto risco, essa responsabilidade ser\u00e1 objetiva, isto \u00e9: independer\u00e1 da comprova\u00e7\u00e3o de culpa ou dolo (inten\u00e7\u00e3o consciente).<\/p>\n
No caso de sistema com risco abaixo de alto, o fornecedor ou operador do sistema ter\u00e1 sua culpa presumida, cabendo a ele comprovar que n\u00e3o \u00e9 culpado, ficando a v\u00edtima do dano dispensada de provar tal culpa.<\/p>\n
O texto n\u00e3o prev\u00ea san\u00e7\u00f5es penais, mas traz descrito quais seriam as obriga\u00e7\u00f5es da autoridade competente por fiscalizar o cumprimento das regras, dentre as quais est\u00e1 aplicar san\u00e7\u00e3o administrativa em caso de infra\u00e7\u00e3o \u00e0s regras, incluindo multa de at\u00e9 R$ 50 milh\u00f5es para pessoas f\u00edsica e de at\u00e9 2% do faturamento no caso de pessoa jur\u00eddica.<\/p>\n
Embora haja a descri\u00e7\u00e3o das atribui\u00e7\u00f5es dessa autoridade competente, n\u00e3o h\u00e1 especifica\u00e7\u00e3o de qual seria o \u00f3rg\u00e3o respons\u00e1vel, somente que este dever\u00e1 ser designado pelo Poder Executivo.<\/p>\n
H\u00e1 doze princ\u00edpios que devem ser observados na aplica\u00e7\u00e3o da IA no pa\u00eds, diz o PL, entre os quais: participa\u00e7\u00e3o humana no ciclo da intelig\u00eancia artificial e supervis\u00e3o humana efetiva; n\u00e3o discrimina\u00e7\u00e3o; justi\u00e7a, equidade e inclus\u00e3o; transpar\u00eancia, explicabilidade, inteligibilidade e auditabilidade; entre outros.<\/p>\n
Outro princ\u00edpio \u00e9 o da “preven\u00e7\u00e3o, precau\u00e7\u00e3o e mitiga\u00e7\u00e3o de riscos sist\u00eamicos derivados de usos intencionais ou n\u00e3o intencionais e de efeitos n\u00e3o previstos de sistemas de intelig\u00eancia artificial”.<\/p>\n
Grada\u00e7\u00e3o de risco<\/strong> Al\u00e9m do uso em ve\u00edculos aut\u00f4nomos e da opera\u00e7\u00e3o de infraestrutura estrat\u00e9gica \u2013 como sistema de transmiss\u00e3o de energia \u2013, entre as atividades de alto risco na aplica\u00e7\u00e3o de IA, o texto coloca o recrutamento e a avalia\u00e7\u00e3o de empregados, a avalia\u00e7\u00e3o de crit\u00e9rios para acesso a servi\u00e7os p\u00fablicos e privados e avalia\u00e7\u00e3o de cr\u00e9dito, aplica\u00e7\u00f5es na \u00e1rea de sa\u00fade e sistema biom\u00e9tricos de identifica\u00e7\u00e3o.<\/p>\n O entendimento \u00e9 o de que, nesses casos, o uso de sistemas de IA possa acarretar discrimina\u00e7\u00e3o direta, indireta, ilegal ou abusiva, em decorr\u00eancia de informa\u00e7\u00f5es pessoais como cor da pele, orienta\u00e7\u00e3o sexual ou origem geogr\u00e1fica.<\/p>\n \u201cAl\u00e9m de adotar defini\u00e7\u00f5es sobre discrimina\u00e7\u00e3o direta e indireta \u2013 incorporando, assim, defini\u00e7\u00f5es da Conven\u00e7\u00e3o Interamericana contra o Racismo, promulgada em 2022 \u2013, o texto tem como ponto de aten\u00e7\u00e3o grupos (hiper) vulner\u00e1veis tanto para a qualifica\u00e7\u00e3o do que venha a ser um sistema de alto risco como para o refor\u00e7o de determinados direitos\u201d, diz a justificativa do projeto.<\/p>\n O texto coloca limites para a utiliza\u00e7\u00e3o de sistemas de IA na seguran\u00e7a p\u00fablica para identifica\u00e7\u00e3o biom\u00e9trica em espa\u00e7os p\u00fablicos, por exemplo, como as c\u00e2meras de reconhecimento facial. Nesse caso, a utiliza\u00e7\u00e3o da tecnologia \u00e9 considerada de risco extremo e s\u00f3 ser\u00e1 permitida mediante aprova\u00e7\u00e3o de lei federal espec\u00edfica e de autoriza\u00e7\u00e3o judicial em tr\u00eas casos: busca de suspeitos de crimes com pena m\u00e1xima superior a dois anos de pris\u00e3o; busca de v\u00edtimas de crimes e desaparecidas; e crimes em flagrante.<\/p>\n
\nTodo o projeto \u00e9 baseado na ideia de grada\u00e7\u00e3o de riscos na aplica\u00e7\u00e3o da IA – de baixo e moderado a alto e extremo. Nesses dois \u00faltimos casos, s\u00e3o estabelecidas regras mais r\u00edgidas de governan\u00e7a para utiliza\u00e7\u00e3o da tecnologia, incluindo a elabora\u00e7\u00e3o de mecanismos de interven\u00e7\u00e3o humana e desativa\u00e7\u00e3o.<\/p>\n