9 maneiras de evitar ser vítima de IA washing

Os CIOs estão sob pressão crescente para denunciar alegações enganosas de IA dos fornecedores

Nos últimos meses, a inteligência artificial tem sido a palavra da moda favorita de todos. Tanto as startups do Vale do Silício quanto as empresas da Fortune 500 veem as indústrias revolucionarem à medida que a IA aumenta o ritmo. Mas a emoção, o progresso e as bandeiras vermelhas, como a AI washing, estão se desenvolvendo na mesma medida. Algumas empresas, desesperadas para entrar no trem da alegria, querem lucrar com o hype, então exageram suas capacidades de IA, apesar do fato de que, na realidade, a IA que empregam é mínima ou inexistente.

Essa estratégia de marketing questionável pode ajudá-los a receber rodadas de financiamento iniciais maiores em comparação com startups sem IA. Somente no ano passado, as startups de IA arrecadaram mais de US$ 50 bilhões em financiamento de capital de risco, de acordo com a GlobalData, e os números devem crescer este ano devido ao frenesi em torno do ChatGPT e outros.

Dado o capital investido nessas startups, o fenômeno AI washing só aumentará em intensidade. A Comissão Federal de Comércio dos EUA está totalmente ciente do perigo e adverte os fornecedores para serem transparentes e honestos ao anunciar seus recursos de IA.

Produtos que não funcionam

“Alguns produtos com alegações de IA podem nem funcionar como anunciado em primeiro lugar”, escreveu Michael Atleson, Advogado da divisão de práticas de publicidade da FTC [Federal Trade Comission], em um post de blog. “Em alguns casos, essa falta de eficácia pode existir independentemente de outros danos que os produtos possam causar. Os profissionais de marketing devem saber que – para fins de fiscalização da FTC – alegações falsas ou infundadas sobre a eficácia de um produto são nosso pão com manteiga”.

Nesse cenário complexo, pode ser difícil distinguir entre soluções legítimas de IA e truques de marketing.

“As empresas precisam aplicar uma boa dose de ceticismo quando confrontadas com as alegações dos fornecedores sobre seus produtos de IA”, diz Beena Ammanath, Diretora Executiva do Deloitte Global AI Institute. “Como com qualquer coisa, se parece bom demais para ser verdade, é muito provável que seja”.

Se os CIOs e suas empresas não encontrarem as respostas corretas, eles podem enfrentar consequências que incluem projetos fracassados ou atrasados, perdas financeiras, processos legais, risco de reputação e, por fim, demissão, diz Donald Welch, CIO da New York University. “Já vi executivos sendo demitidos [por isso] e não posso dizer que foi a decisão errada”.

Felizmente, existem várias estratégias que eles podem usar para evitar erros.

Veja Também: A era da IA: como o Microsoft Cloud está acelerando a transformação da IA ​​em todos os setores

Empresas movidas a IA precisam de funcionários qualificados

A verificação de empresas que afirmam usar IA pode ser um processo longo e demorado. No entanto, coisas simples, como realizar uma pesquisa no LinkedIn, podem revelar informações valiosas sobre o perfil de uma organização.

“Examine o nível de experiência e educação em IA dos funcionários dos fornecedores”, diz Ammanath. “As empresas que estão desenvolvendo soluções de IA devem ter talento para isso, o que significa que possuem cientistas e engenheiros de dados com profunda experiência em IA, machine learning, desenvolvimento de algoritmos e muito mais”.

Além de examinar os funcionários, os CIOs também podem procurar evidências de colaboração com especialistas externos em IA e instituições de pesquisa. Esta categoria inclui parcerias com universidades, participação em conferências e eventos do setor e contribuições para iniciativas de IA de código aberto.

Também é um bom sinal se esse fornecedor tiver experiência com projetos ou aplicativos semelhantes, pois mostra que pode oferecer resultados de qualidade.

“Verifique cuidadosamente o histórico do fornecedor”, diz Vira Tkachenko, Diretor de Tecnologia e Inovação da startup ucraniana-americana MacPaw. “Se uma empresa é especialista em IA, provavelmente tem um histórico de trabalhos de pesquisa nesse campo ou em outros produtos de IA”.

Procure uma estratégia de dados bem elaborada

As empresas que realmente integram IA em seus produtos também precisam de uma estratégia de dados bem pensada, porque os algoritmos de IA precisam disso. Eles precisam trabalhar com dados de alta qualidade, e quanto mais generosos e relevantes forem esses dados, melhores serão os resultados.

“Os sistemas de IA são alimentados por grandes quantidades de dados, então essas empresas também devem ter uma estratégia de dados bem construída e ser capazes de explicar quantos dados estão sendo coletados e de quais fontes”, diz Ammanath.

Outra coisa a observar é se essas empresas se esforçam o suficiente para cumprir os requisitos regulatórios e manter altos padrões de privacidade e segurança de dados. Com o aumento das regulamentações de privacidade de dados, como o Regulamento Geral de Proteção de Dados (EU GDPR) e a Lei de Privacidade do Consumidor da Califórnia (CCPA), as organizações precisam ser transparentes sobre suas práticas de dados e fornecer aos indivíduos controle sobre seus dados pessoais. Se isso não acontecer, deve ser uma bandeira vermelha.

Solicite evidências para apoiar as reivindicações

Embora as palavras-chave possam ser sedutoras, ajuda pedir evidências gentilmente. “Fazer as perguntas certas e exigir provas das alegações do produto é extremamente importante para eliminar o marketing e o discurso de vendas para determinar se um produto é realmente alimentado por IA”, diz Ammanath.

Os CIOs que avaliam um produto ou serviço específico que parece ser alimentado por IA podem perguntar como o modelo foi treinado, quais algoritmos foram usados e como o sistema de IA se adaptará aos novos dados.

“Você deve perguntar ao fornecedor quais bibliotecas ou modelos de IA eles usam”, diz Tkachenko. “Eles podem ter tudo construído em uma simples chamada de API OpenAI”.

Matthias Roeser, Sócio e Líder Global de Tecnologia da empresa de consultoria de gerenciamento e tecnologia BearingPoint, concorda. Ele acrescenta que os componentes e a estrutura devem ser totalmente compreendidos e a avaliação deve incluir “ética, preconceitos, viabilidade, propriedade intelectual e sustentabilidade”.

Essa consulta pode ajudar os CIOs a aprender mais sobre os verdadeiros recursos e as limitações desse produto, ajudando-os a decidir se devem comprá-lo ou não.

Preste atenção nas startups

As startups se posicionam na vanguarda da inovação. No entanto, enquanto muitas delas ultrapassam os limites do que é possível no campo da IA, alguns podem simplesmente exagerar suas capacidades para ganhar atenção e dinheiro.

“Como CTO de uma empresa de machine learning, frequentemente encontro casos de AI washing, especialmente na comunidade de startups”, diz Vlad Pranskevičius, cofundador e CTO da startup ucraniana-americana Claid.ai, da Let’s Enhance. Ele notou, porém, que recentemente a situação se tornou mais aguda, acrescentando que esse fenômeno é especialmente perigoso durante ciclos de hype como o que está sendo experimentado atualmente, já que a IA é percebida como uma nova corrida do ouro.

Pranskevičius acredita, no entanto, que a AI washing será controlada em um futuro próximo, à medida que os regulamentos sobre IA se tornarem mais rigorosos.

Construa uma reputação profissional de tecnologia

Não é incomum que uma empresa adquira soluções duvidosas de IA e, nessas situações, o CIO pode não ser necessariamente o culpado. Pode ser “um sintoma de má liderança da empresa”, diz Welch. “O negócio cai no hype de marketing e anula a equipe de TI, que é deixada para juntar as peças”.

Para evitar momentos como esse, as organizações precisam fomentar uma cultura colaborativa em que a opinião dos profissionais de tecnologia seja valorizada e seus argumentos listados minuciosamente.

Ao mesmo tempo, CIOs e equipes de tecnologia devem construir sua reputação dentro da empresa para que sua opinião seja mais facilmente incorporada aos processos de tomada de decisão. Para conseguir isso, eles devem demonstrar experiência, profissionalismo e habilidades interpessoais.

“Não acho que haja problema em detectar AI washing para o CIO”, diz Max Kovtun, Diretor de Inovação do Sigma Software Group. “O maior problema pode ser o impulso das partes interessadas ou empreendedores para usar a IA de qualquer forma, porque desejam parecer inovadores e de ponta. Portanto, a pergunta certa seria como não se tornar um ‘AI washer’ sob a pressão do empreendedorismo”.

Vá além das palavras-chave

Ao comparar produtos e serviços, é fundamental avaliá-los com a mente aberta, analisando bem seus atributos.

“Se a única vantagem que um produto ou serviço tem para você é a IA, pense bem antes de assinar”, diz Tkachenko. “É melhor estudar sua proposta de valor e recursos e só iniciar a cooperação quando você entender os benefícios do programa além da IA”.

Welch concorda: “Vou comprar um sistema porque o escreveram em C, C++ ou Java?”, ele pergunta. “Talvez eu queira entender isso como parte de minha devida diligência sobre se eles serão capazes de manter o código, a viabilidade da empresa e coisas assim”.

Fazer uma avaliação completa pode ajudar as organizações a determinar se o produto ou serviço que planejam comprar está alinhado com seus objetivos e se tem o potencial de fornecer os resultados esperados.

“Quanto mais complexa a tecnologia, mais difícil é para não especialistas entendê-la na medida em que permite verificar se a aplicação dessa tecnologia é correta e faz sentido”, diz Kovtun. “Se você decidiu utilizar a tecnologia de IA para sua empresa, é melhor integrar especialistas com experiência no domínio da IA. Caso contrário, seus esforços podem não resultar nos benefícios que você espera receber”.

Siga as notícias relacionadas à IA

Estar atualizado sobre os produtos relacionados à IA e os problemas que os envolvem também pode ajudar os CIOs a tomar decisões informadas. Dessa forma, eles podem identificar possíveis erros que podem cometer e, ao mesmo tempo, alavancar novas ideias e tecnologias.

“Acho que ainda não há educação suficiente”, diz Art Thompson, CIO da cidade de Detroit.

Ele recomenda que os CIOs façam pesquisas suficientes para evitar cair na armadilha de tecnologias novas ou experimentais que prometem mais do que podem entregar. Se isso acontecer, “a quantidade de tempo para rebid e para resolver a substituição de um produto pode realmente prejudicar a equipe de apoio em qualquer mudança”, diz ele. “Sem falar na dificuldade de as pessoas investirem tempo para aprender novas tecnologias”.

Além disso, estar informado sobre os assuntos mais recentes relacionados à IA pode ajudar os CIOs a antecipar mudanças regulatórias e padrões emergentes do setor, o que pode ajudá-los a estar em conformidade e manter uma vantagem competitiva.

E é mais do que apenas o CIO que precisa se manter atualizado. “Eduque sua equipe ou contrate especialistas para adicionar os recursos relevantes ao seu portfólio”, diz Roeser, da BearingPoint.

Ação regulatória adicional em torno da IA

Novos regulamentos a caminho podem simplificar a tarefa dos CIOs que procuram determinar se um produto ou serviço emprega tecnologia de IA real ou não. A Casa Branca emitiu recentemente uma Declaração de Direitos de IA com diretrizes para projetar sistemas de IA de forma responsável. E mais regulamentos podem ser emitidos nos próximos anos.

“A premissa por trás dessas ações é proteger os direitos do consumidor e os humanos de possíveis danos causados pela tecnologia”, diz Ammanath. “Precisamos antecipar os potenciais impactos negativos da tecnologia para mitigar os riscos”.

A ética não deve ser uma reflexão tardia

As corporações tendem a influenciar o discurso sobre as novas tecnologias, destacando os benefícios potenciais, ao mesmo tempo em que minimizam as possíveis consequências negativas.

“Quando uma tecnologia se torna um chavão, tendemos a perder o foco nos impactos potencialmente nocivos que ela pode ter na sociedade”, diz Philip Di Salvo, Pesquisador de Pós-Doutorado na Universidade de St. Gallen, na Suíça. “A pesquisa mostra que as corporações estão conduzindo o discurso em torno da IA e que os argumentos tecno-deterministas ainda são dominantes”.

Essa crença de que a tecnologia é a principal força motriz por trás da mudança social e cultural pode obscurecer as discussões sobre implicações éticas e políticas em favor de argumentos mais orientados para o marketing. Como diz Di Salvo, isso cria “uma forma de névoa argumentativa que torna essas tecnologias e seus produtores ainda mais obscuros e irresponsáveis”.

Para resolver isso, ele diz que é um desafio crucial comunicar ao público o que a IA realmente não é e o que ela não pode fazer.

“A maioria dos aplicativos de IA que vemos hoje – incluindo o ChatGPT – são basicamente construídos em torno da aplicação de estatísticas e análise de dados em escala”, diz Di Salvo. “Isso pode soar como uma definição chata, mas ajuda a evitar qualquer deturpação do que ‘inteligente’ se refere na definição de ‘inteligência artificial’. Precisamos nos concentrar em problemas reais, como preconceitos, classificação social e outras questões, não em cenários hipotéticos e especulativos de longo prazo”.

Por Andrada Fiscutean, CIO

Fonte: itforum

Conheça nossos serviços e soluções de TI para seu negócio Clique aqui