A Superintendência Estadual de Tecnologia da Informação e Comunicação (Setic) lançou a segunda edição da série Conecta IA, com o objetivo de fornecer orientações aos servidores públicos sobre o uso seguro e responsável da Inteligência Artificial (IA) no serviço público de Rondônia. Esta nova publicação enfatiza a proteção de dados estratégicos e a necessidade de supervisão humana sobre os conteúdos gerados por IA.
A Setic alerta que, diferentemente de softwares convencionais, muitas plataformas de IA registram e armazenam as informações inseridas pelos usuários, utilizando-as para aprimorar seus modelos. Consequentemente, o compartilhamento de dados sensíveis pode expor os órgãos públicos a riscos de segurança digital.
O governador de Rondônia, Marcos Rocha, ressaltou a importância de alinhar a transformação digital aos princípios da segurança da informação. Ele destacou que a utilização responsável da tecnologia é crucial para salvaguardar os dados e fortalecer a confiança da população nos serviços estaduais.
Cuidados Essenciais no Uso da Inteligência Artificial
Tiago Aguiar, encarregado de dados da Setic e membro titular do Conselho Nacional de Proteção de Dados Pessoais e da Privacidade (CNPD), alertou que as ferramentas de IA frequentemente mantêm históricos de conversas. Por essa razão, informações sensíveis da administração pública, como senhas de sistemas, credenciais de acesso, documentos com dados confidenciais e informações estratégicas, não devem ser inseridas nessas plataformas.
Aguiar enfatizou que "esses ambientes registram as interações realizadas pelos usuários e podem representar riscos quando utilizados de forma inadequada". Além disso, a Setic recomenda que os servidores priorizem o uso de ferramentas de IA oficialmente autorizadas pela instituição, o que assegura maior controle sobre segurança, privacidade e conformidade.
A Indispensável Revisão Humana
A série Conecta IA também aborda o equívoco de presumir que todas as informações geradas por Inteligência Artificial Generativa são precisas. Embora essas ferramentas possam produzir textos, documentos e análises rapidamente, elas podem, por vezes, apresentar dados incorretos, desatualizados ou até mesmo fabricados.
Tiago Aguiar reforçou que a validação humana permanece essencial. Ele explicou que, embora a IA possa otimizar o trabalho dos servidores e elevar a produtividade, a autoria e a responsabilidade final pelos documentos oficiais recaem sobre o agente público. "Toda informação gerada por IA deve ser revisada e conferida antes de ser incorporada em processos administrativos ou utilizada na tomada de decisões", afirmou.
Sobre a Série Conecta IA
As diretrizes apresentadas fazem parte da série Conecta IA, uma iniciativa da Setic criada para promover boas práticas em segurança da informação, proteção de dados pessoais e o uso ético da Inteligência Artificial no setor público. A série é divulgada semanalmente, às quartas-feiras, durante o mês de junho, com término agendado para 1º de julho. Os temas abordados incluem proteção de dados, segurança da informação, melhores práticas no uso de IA e a aplicação segura dessas tecnologias no dia a dia do serviço público de Rondônia.