{"id":8797,"date":"2025-09-26T08:55:39","date_gmt":"2025-09-26T11:55:39","guid":{"rendered":"https:\/\/www.intergate.net.br\/blog\/?p=8797"},"modified":"2025-09-26T08:55:39","modified_gmt":"2025-09-26T11:55:39","slug":"pesquisa-traca-guia-para-empresas-usarem-ia-de-forma-responsavel","status":"publish","type":"post","link":"https:\/\/www.intergate.net.br\/blog\/pesquisa-traca-guia-para-empresas-usarem-ia-de-forma-responsavel\/","title":{"rendered":"Pesquisa tra\u00e7a guia para empresas usarem IA de forma respons\u00e1vel"},"content":{"rendered":"\n

O Centro de Ensino e Pesquisa em Inova\u00e7\u00e3o (CEPI) da FGV Direito SP lan\u00e7a um guia para empresas\/organiza\u00e7\u00f5es sobre o desenvolvimento e o uso respons\u00e1vel de sistemas de intelig\u00eancia artificial “Governan\u00e7a Da Intelig\u00eancia Artificial Em Organiza\u00e7\u00f5es Arquitetura de Confiabilidade e Gest\u00e3o de Vieses”.<\/p>\n\n\n\n\n\n\n\n

O lan\u00e7amento do relat\u00f3rio marca o encerramento dos trabalhos de um projeto de pesquisa aplicada que contou com a condu\u00e7\u00e3o de grupo de pesquisa com especialistas externos no tema, al\u00e9m de entrevistas com as empresas parceiras.<\/p>\n\n\n\n

O produto final busca consolidar as principais preocupa\u00e7\u00f5es, contribui\u00e7\u00f5es e tarefas sobre esse tema complexo e interdisciplinar. <\/p>\n\n\n\n

Para isso a pesquisa elegeu tr\u00eas frentes de atua\u00e7\u00e3o: a primeira \u00e9 a consolida\u00e7\u00e3o de um vocabul\u00e1rio comum e conhecimento de base entre os diferentes profissionais que lidam com o desafio de vieses nas solu\u00e7\u00f5es tecnol\u00f3gicas de suas empresas; a segunda \u00e9 a conscientiza\u00e7\u00e3o sobre o panorama de riscos que uma organiza\u00e7\u00e3o est\u00e1 sujeita quando implementa solu\u00e7\u00f5es de IA<\/a>; e a terceira frente diz respeito \u00e0 adapta\u00e7\u00e3o dos instrumentos de governan\u00e7a organizacional a estes desafios.<\/p>\n\n\n\n

De acordo com Luiza Morales, pesquisadora do CEPI-FGV, o estudo tra\u00e7a um panorama instrumental importante para que as empresas usem a intelig\u00eancia artificial de forma \u00e9tica, promovendo maior seguran\u00e7a ao ecossistema de inova\u00e7\u00e3o e aten\u00e7\u00e3o ao que vem sendo chamado de justi\u00e7a algor\u00edtmica.<\/p>\n\n\n\n

A implementa\u00e7\u00e3o de solu\u00e7\u00f5es de IA \u00e9 objeto de trabalho para muitas \u00e1reas do conhecimento. O relat\u00f3rio relaciona o tema com preocupa\u00e7\u00f5es oriundas da regula\u00e7\u00e3o de prote\u00e7\u00e3o de dados pessoais, al\u00e9m de outros campos como Direito Antidiscriminat\u00f3rio, Diversidade e Inclus\u00e3o, Gest\u00e3o de Riscos, entre outras.<\/p>\n\n\n\n

Assim, o relat\u00f3rio se dedica a passar conceitos importantes sobre discrimina\u00e7\u00e3o, fairness e como o Direito j\u00e1 tem olhado para o tema, com foco nos marcos legais que embasam a prote\u00e7\u00e3o \u00e0 igualdade e a veda\u00e7\u00e3o a pr\u00e1ticas discriminat\u00f3rias. <\/p>\n\n\n\n

Contribui\u00e7\u00e3o caracterizada n\u00e3o apenas como mero gloss\u00e1rio, mas como uma consolida\u00e7\u00e3o das principais discuss\u00f5es e entendimentos dos campos, para dirimir equ\u00edvocos recorrentes e para que o tema seja abordado de forma hol\u00edstica.<\/p>\n\n\n\n

O estudo evidencia que o tema da discrimina\u00e7\u00e3o j\u00e1 est\u00e1 pautado em diversos campos do direito, revelando a capilaridade, variedade e relev\u00e2ncia que esse campo dedica ao tema de discrimina\u00e7\u00e3o e, consequentemente, de discrimina\u00e7\u00e3o a partir de vieses em sistemas algor\u00edtmicos. <\/p>\n\n\n\n

Deste modo, o estudo corrobora a necessidade do entendimento desses sistemas jur\u00eddicos, indicando obriga\u00e7\u00f5es, direitos e organizacionais, para al\u00e9m dos futuros marcos legais espec\u00edficos da IA.<\/p>\n\n\n\n

A pesquisa tamb\u00e9m traz uma consolida\u00e7\u00e3o das principais discuss\u00f5es e entendimentos em rela\u00e7\u00e3o ao conhecimento sobre tecnologia, sendo esse conhecimento importante para o entendimento das complexifica\u00e7\u00f5es de quando os algoritmos passam a mediar nossas rela\u00e7\u00f5es sociais e assim demandam novas solu\u00e7\u00f5es jur\u00eddicas e organizacionais.<\/p>\n\n\n\n

Nesse sentido, o estudo permite que entendamos as diversas entradas para os vieses na tecnologia e, logo, poss\u00edveis a\u00e7\u00f5es de gest\u00e3o desses riscos. <\/p>\n\n\n\n

Assim, o estudo observa que uma abordagem recorrente na pr\u00e1tica e na literatura como estrat\u00e9gia de Governan\u00e7a de Intelig\u00eancia Artificial \u00e9 a observa\u00e7\u00e3o das atividades do ciclo de vida de um modelo de uma solu\u00e7\u00e3o algor\u00edtmica, identificando em quais momentos esses vieses podem ser introduzidos ou amplificados (como exemplo, temos o CRISP-DM, KDD, SEMMA, ISO\/IEC 8183:2023, AI Ethics and Governance in Practice do Alan Turing Institute e o Business Software Alliance). <\/p>\n\n\n\n

E, ap\u00f3s a compara\u00e7\u00e3o dessas diferentes refer\u00eancias, a pesquisa prop\u00f5e uma consolida\u00e7\u00e3o do ciclo em macromomentos que orientar\u00e3o o trabalho de governan\u00e7a<\/a>.<\/p>\n\n\n\n

Vale destacar que o material tem cap\u00edtulo dedicado \u00e0 exposi\u00e7\u00e3o dos cen\u00e1rios de risco a partir da perspectiva das organiza\u00e7\u00f5es, levando em considera\u00e7\u00e3o n\u00e3o apenas as consequ\u00eancias de san\u00e7\u00f5es legais, mas tamb\u00e9m a sustentabilidade do neg\u00f3cio e do ecossistema de inova\u00e7\u00e3o, atentando para os riscos sist\u00eamicos e as consequ\u00eancias que vieses podem trazer para a qualidade dos produtos e processos organizacionais.<\/p>\n\n\n\n

Em sua exposi\u00e7\u00e3o, o relat\u00f3rio tra\u00e7a um panorama para que as organiza\u00e7\u00f5es, ao navegarem no tema, n\u00e3o apenas entendam as diferentes perspectivas envolvidas, mas possam personalizar o seu caminho de governan\u00e7a de acordo com padr\u00f5es j\u00e1 adotados, recursos j\u00e1 dispendidos, cultura, capacita\u00e7\u00e3o e apetite de risco.<\/p>\n\n\n\n

Com a an\u00e1lise de pesquisas aplicadas ao tema, o estudo constatou que se costumam localizar as medidas no ciclo apresentando solu\u00e7\u00f5es tanto comuns quanto originais. A partir disso, o relat\u00f3rio consolidou essas medidas em 11 conjuntos de medidas:<\/p>\n\n\n\n