Chaves para atravessar o cenário de risco de IA

A implementação da IA, embora um empreendimento promissor, dificilmente é uma iniciativa simples. De respostas e alucinações incorretas à falta de transparência, vulnerabilidades de segurança e preocupações com a privacidade de dados, as empresas que buscam adotar a IA devem enfrentar uma ladainha de obstáculos.

Especialistas ingressaram DBTAmais recente webinar, Mitigando os riscos da IA: estratégias de governança, segurança e conformidadepara examinar como a mistura certa de governança, segurança e tecnologias de conformidade e práticas recomendadas pode garantir o sucesso da IA.

Suzanne Weller, diretora de pesquisa e desenvolvimento, privacidade e segurança, Informaticaafirmou que “a governança eficaz é vital para garantir que os projetos de IA ofereçam resultados valiosos”. Isso é cada vez mais crítico, pois “a taxa de adoção de IA generativa está se acelerando, e as organizações estão fazendo investimentos substanciais em projetos de IA para garantir uma vantagem competitiva”, disse Weller.

No entanto, essas empresas estão enfrentando desafios significativos à medida que transitam projetos piloto de IA para sistemas em larga escala que oferecem valor tangível. A governança da IA ​​é fundamental para quebrar esses obstáculos, mas também é um processo complexo, explicou Weller.

A Informatica torna a governança da IA ​​simples, permitindo que as organizações construam confiança em suas iniciativas de IA com confiança para acelerar o ROI. Isso é alcançado através de quatro pilares:

• Inventário: Catálogo Dados estruturados e não estruturados e ativos de IA com classificação assistida por IA que impulsionam a descoberta dos sistemas de IA dos principais ecossistemas.

• Controlar: Implemente os fluxos de trabalho para conformidade e gerenciamento de riscos combinados com o gerenciamento de acesso para dados não estruturados.

• Entregar: Garanta a qualidade do conteúdo para dados não estruturados e forneça gerenciamento de acesso em pipelines de IA.

• Observar: Forneça observabilidade sobre o desempenho da IA ​​nos principais ecossistemas e estabeleça uma trilha de auditoria de riscos e controles ao longo do ciclo de vida da IA.

“Ai na empresa acerta muitos dos mesmos desafios que lidamos há um bom tempo”, disse Steve Karam, gerente de produtos principal, IA, SaaS e crescimento, Delphix por Perforce . “AIOPS é DevOps em um novo casaco.”

Karam se concentrou no desafio da privacidade de dados no que se refere à IA, onde uma paisagem regulatória em mudança – foi parada com ameaças em evolução – deixa difícil para o acompanhamento das empresas.

A Delphix by Perforce atua como a “camada de dados compatível”, garantindo que os dados – em todos os lugares que vive – são garantidos e compilados sem perder o valor estatístico e analítico dos dados. Os dados são mascarados de forma consistente entre os sistemas sem sacrificar sua utilidade, persistindo a segurança contra roubo e vazamento de dados. Delphix by Perforce ajuda a fornecer sucesso à IA à prova de futuro, que é alcançado através de:

• Treinamento de modelo aprimorado com dados realistas e mascarados
• Melhor conformidade de dados com máscara irreversível e integrada
• Integridade de várias nuvens com uma plataforma consistente e multi-nuvem
• DevOps para aplicativos de IA habilitados para dados

Susan Laine, tecnóloga -chefe, líder de pensamento de dados, Erwin por missãoecoou o sentimento de Karam, explicando que, no que diz respeito à IA, “ainda estamos lutando com o básico”. Falha em aperfeiçoar esses princípios básicos – disponibilidade de dados e qualidade dos dados – prevista a capacidade das empresas de confiar em seus projetos de IA – “Se não confiarmos nos dados, como confiaremos na IA?” Laine apontou.

Um desafio importante, segundo Laine, é que as organizações estão enfrentando demais Em relação aos dados e governança da IA. A implementação de uma abordagem de “Governamento à medida que você vai” é um método de governança mais viável e eficaz, garantindo que os casos de uso sejam atendidos em cada etapa do processo de governança para impulsionar o alinhamento com as metas de negócios.

Para ajudar a determinar a eficácia das estratégias de governança, a Erwin by Quest oferece um processo de certificação que garante que os modelos de IA e seus dados sejam adequados para uso. Isso permite que as empresas movam seus modelos para a produção com confiança, garantiu que seus projetos são considerados prontos para a escala. Erwin by Quest observa as saídas do modelo, alertando a organização para modelar a deriva para que eles possam reagir, sintonizar e remediar quaisquer novos desafios que surgirem.

Dr. Kjell Carlsson, chefe da estratégia de IA, Domino Data Data Labargumentou que a governança eficaz da IA ​​foi resolvida. O desafio, no entanto, está fazendo com que funcione com eficiência, flexibilidade e escala.

Isso é ainda mais agravado pelo fato de que, com mais IA, há mais riscos e sua evolução constante o torna ainda mais complexo de governar. De acordo com uma pesquisa da BARC, 95% das empresas devem substituir, reescrever ou atualizar suas estruturas e processos de governança de IA para o cenário modelo de hoje, habilitado para Genai.

A solução, então, está evoluindo as capacidades de governança de IA existentes para se adaptar ao cenário dinâmico cada vez mais irregular da IA, de acordo com Carlsson. De pessoas a processos e tecnologia, as empresas devem reavaliar todo aspecto de suas estratégias de governança de acordo com os seguintes blocos de construção:

1. Visibilidade
2. Auditabilidade
3. Reprodutibilidade
4. Controlar
5. Automação

“Se você não tem esses blocos de construção, também pode ir para casa”, brincou Carlsson.

Mesmo com esses blocos de construção, as empresas ainda podem deixar de acompanhar. É por isso que, com plataformas de IA como a governança dominó, as organizações podem transformar a governança de complexidade em momento. A governança do Domino automatiza e orquestra a coleta, revisão e rastreamento dos materiais necessários para garantir a conformidade com as políticas internas e externas, explicou Carlsson.

Este é apenas um trecho do risco de IA atenuante: webinar de governança, segurança e conformidade. Para ver o webinar completo, com explicações detalhadas, uma discussão na mesa redonda e muito mais, você pode ver uma versão arquivada aqui.