A Eval está acompanhando de perto a maior conferência sobre cibersegurança no mundo! Saiba como foi o primeiro dia de apresentações e as novidades na área de proteção de dados e segurança cibernética.
No primeiro dia da RSA Conference 2024 uma palestra que se destacou no painel CSA AI Summit, foi a do Rehan Jalil, CEO da Securiti, que apresentou uma palestra excepcional intitulada “Construindo Confiança em IA: Salvaguardas Proativas para Adoção Responsável de GenAI“.
Sua apresentação abordou um desafio crítico enfrentado pelas empresas: como incorporar de forma segura e ética os avanços revolucionários da inteligência artificial de última geração (GenAI) em suas operações.
Jalil iniciou ressaltando que a convergência de dados e IA representa a maior transformação empresarial da história, com um potencial inigualável para impulsionar inovação e automação.
Ele ilustrou seu ponto com exemplos de como a GenAI já está impactando setores como manufatura, logística e gestão estratégica, trazendo ganhos significativos de eficiência e produtividade.
No entanto, o palestrante enfatizou que, junto com as oportunidades, vem a urgente necessidade de implementar uma governança robusta para a segurança dos dados desestruturados que alimentam os modelos de GenAI. Ele identificou quatro pilares fundamentais:
- Segurança de Dados Desestruturados: Catalogar e proteger todos os arquivos e objetos utilizados em projetos de GenAI, garantindo que as informações confidenciais estejam seguras e controladas, alinhadas com os mais rígidos padrões de criptografia e controle de acesso.
- Permissões para Dados Desestruturados: Manter um gerenciamento rigoroso das permissões de acesso aos sistemas de dados de origem em projetos de GenAI, preservando a integridade e a segurança dos dados, e evitando violações de privacidade ou vazamentos.
- Saneamento de Dados Desestruturados: Implementar processos automatizados de classificação e higienização dos dados, ocultando informações sensíveis nos arquivos que serão empregados em projetos de GenAI, para eliminar o risco de usos indevidos ou vazamentos acidentais.
- Procedência de Dados Desestruturados: Avaliar continuamente os riscos associados aos dados e modelos de IA provenientes de provedores de IaaS e SaaS, e classificar rigorosamente os modelos de IA conforme os requisitos regulatórios globais, garantindo total conformidade e controle.
Jalil recomendou a adoção da estrutura de governança de dados e IA da Securiti, que fornece uma solução abrangente para implementar essas salvaguardas proativas. Ele também destacou casos de sucesso de empresas líderes que adotaram essas práticas, resultando em uma adoção responsável e segura da GenAI.
A apresentação de Jalil na RSA Conference 2024 forneceu diretrizes valiosas e acionáveis para organizações que buscam aproveitar todo o potencial transformador da GenAI, ao mesmo tempo em que constroem confiança, responsabilidade e conformidade regulatória em suas operações de IA. Sua palestra estabeleceu um novo padrão para a adoção ética e segura da inteligência artificial no mercado.
Fotos: Divulgação/ Flickr RSA Conference.
