Tal como menciona o Doutor Valdemir Ferreira Santos, a inteligência artificial está cada vez mais presente em atividades que envolvem concessão de crédito, processos seletivos, atendimento ao consumidor e prestação de serviços. Embora essas tecnologias permitam automatizar análises e decisões, seu funcionamento também pode produzir erros capazes de causar prejuízos financeiros, materiais ou relacionados a direitos individuais.
Saiba mais a seguir!
Por que é difícil identificar quem responde por um erro da IA?
Um sistema de inteligência artificial pode envolver diferentes participantes. Uma empresa desenvolve a tecnologia, outra fornece os dados utilizados e uma terceira incorpora a ferramenta aos próprios serviços. Quando surge um prejuízo, identificar qual conduta contribuiu para o resultado pode exigir a reconstrução de várias etapas do funcionamento do sistema. Essa análise também pode envolver a identificação de falhas na configuração, na atualização ou na supervisão da ferramenta, considerando as responsabilidades assumidas por cada participante durante sua utilização.
Segundo o Doutor Valdemir Ferreira Santos, essa dificuldade aumenta quando o resultado depende de modelos complexos, cujos critérios internos nem sempre são facilmente interpretáveis. Uma decisão automatizada pode considerar inúmeras informações simultaneamente, dificultando a identificação de um fator específico. Entretanto, a complexidade tecnológica não elimina a necessidade de examinar responsabilidades juridicamente atribuíveis. Nesses casos, registros de funcionamento, documentação técnica e informações sobre os procedimentos adotados podem contribuir para esclarecer como determinado resultado foi produzido e quais fatores participaram de sua formação.
Além disso, nem todo resultado incorreto representa automaticamente uma conduta ilícita. É necessário verificar a existência do dano, sua relação com o funcionamento da ferramenta e os pressupostos exigidos pelo regime jurídico aplicável. Essa distinção impede que qualquer falha tecnológica seja tratada, isoladamente, como fundamento suficiente para responsabilização. A avaliação também deve considerar as obrigações legais e contratuais envolvidas, uma vez que diferentes situações podem estar submetidas a critérios específicos de responsabilização, inclusive independentemente da comprovação de culpa.
A responsabilidade é de quem desenvolveu ou utilizou o sistema?
A resposta depende das circunstâncias. Uma falha relacionada ao desenvolvimento da tecnologia pode apresentar consequências jurídicas diferentes daquelas decorrentes de sua utilização inadequada. Também existem situações em que o prejuízo resulta da combinação de problemas técnicos, informações incorretas e ausência de procedimentos de supervisão.
Na atividade exercida pelo Doutor Valdemir Ferreira Santos, a identificação dessas circunstâncias está relacionada à análise dos fatos e das normas aplicáveis. O Código Civil estabelece regras gerais de responsabilidade civil, enquanto o Código de Defesa do Consumidor prevê disposições específicas para determinadas relações de consumo, inclusive hipóteses de responsabilidade independentemente de culpa.
Como comprovar que o prejuízo foi causado pela tecnologia?
A demonstração do nexo causal representa uma das principais dificuldades em conflitos envolvendo sistemas automatizados. Esse conceito corresponde à relação juridicamente relevante entre determinada conduta ou atividade e o dano alegado. Quando várias etapas participam da produção de um resultado, identificar essa conexão pode exigir informações técnicas específicas. A investigação pode envolver desde a origem dos dados utilizados até as configurações adotadas durante a operação, permitindo compreender se determinada falha contribuiu efetivamente para o prejuízo apresentado.
Imagine uma ferramenta utilizada para auxiliar na análise de solicitações de crédito. Caso uma pessoa questione uma negativa, será necessário compreender quais critérios foram utilizados, se houve intervenção humana e se o resultado decorreu efetivamente do funcionamento do sistema. A simples participação de inteligência artificial não demonstra, por si só, irregularidade. Também é importante verificar se os critérios empregados respeitaram as exigências legais aplicáveis e se eventuais inconsistências nos dados influenciaram a decisão, distinguindo problemas técnicos de situações juridicamente legítimas.
Para o Doutor Valdemir Ferreira Santos, a discussão evidencia a importância da produção de provas em controvérsias tecnológicas. Registros de funcionamento, documentos contratuais e avaliações especializadas podem contribuir para esclarecer os acontecimentos. Entretanto, a relevância desses elementos depende das questões discutidas e das regras processuais aplicáveis. Em determinadas situações, a realização de perícia técnica pode auxiliar na compreensão do funcionamento da ferramenta, oferecendo subsídios para uma análise fundamentada das responsabilidades envolvidas.
