Radar do Mercado Inteligência artificial
Anthropic e OpenAI buscam controlar relatórios de segurança de IA
CNN Brasil (abre em nova aba) Publicada em
Anthropic e OpenAI estão trabalhando para estabelecer controle sobre os relatórios de segurança relacionados à inteligência artificial, visando aumentar a transparência e a responsabilidade no desenvolvimento dessas tecnologias.
Ler a matéria completa na CNN Brasil (abre em nova aba)
O que aconteceu
A Anthropic e a OpenAI estão buscando um controle significativo sobre o que os avaliadores externos podem divulgar sobre suas tecnologias de inteligência artificial, motivadas por receios relacionados a segredos comerciais. As discussões incluem a questão da independência editorial dos avaliadores, ao mesmo tempo em que tentam proteger informações sensíveis que podem impactar suas operações futuras.
O que muda para o mercado digital
Essa iniciativa pode mudar a forma como as empresas de IA se relacionam com avaliadores independentes, influenciando a transparência no setor. Caso as desenvolvedoras mantenham um controle excessivo sobre as publicações, isso pode restringir a capacidade do mercado de avaliar riscos associados a essas inovações, gerando desconfiança entre usuários e reguladores. A ausência de padrões claros para avaliações independentes pode permitir que as empresas moldem a percepção pública e a regulação da IA de acordo com seus interesses comerciais.
Para agências e anunciantes
Agências e anunciantes precisam estar atentas a essas transformações, especialmente na forma como abordam a comunicação sobre IA. É fundamental revisar as estratégias de relacionamento com influenciadores e avaliadores, garantindo que as informações divulgadas sejam precisas e não manipuladas. As conversas com os clientes devem incluir a importância da transparência e da independência nas avaliações de IA, além de considerar como a percepção pública pode ser afetada por essas práticas.
O que acompanhar
Nos próximos meses, é importante observar como as negociações entre as empresas de IA e avaliadores se desenrolarão e se haverá um movimento em direção a padrões mais rigorosos de avaliação. Também será relevante monitorar como a opinião pública e as regulamentações podem reagir a essas ações, especialmente em relação à segurança e aos riscos associados ao uso da inteligência artificial.