Os Estados Unidos, o Reino Unido e mais 16 nações divulgaram um pacto destinado a estabelecer diretrizes que garantam a integridade dos sistemas de inteligência artificial desde sua concepção, promovendo a ideia de “segurança por design”.
Este documento abrangente, com 20 páginas, representa a primeira iniciativa internacional dedicada a evitar a utilização indevida dessa tecnologia por partes mal-intencionadas.
Importante notar que o acordo é não-vinculante, indicando que não será convertido em regulamentação. Suas recomendações abrangem aspectos gerais, como a vigilância constante dos sistemas de IA para evitar abusos, a salvaguarda de dados contra possíveis adulterações e uma criteriosa verificação de fornecedores de software.
Este marco inovador busca não apenas fornecer diretrizes específicas, mas também promover uma abordagem colaborativa e proativa para mitigar potenciais ameaças associadas ao uso da inteligência artificial.
A abordagem enfatiza a canalização dos benefícios de segurança para os usuários, defendendo de forma abrangente a transparência e a responsabilidade, além de estabelecer estruturas organizacionais nas quais o design seguro é a prioridade.
Diz a Agência de Cibersegurança e Segurança de Infraestrutura dos EUA (CISA) em seu comunicado à imprensa.
Jen Easterly, diretora da CISA, destaca:
Esta é a primeira vez que vemos uma afirmação de que essas características não devem ser consideradas apenas como diferenciais”. Para ela, o acordo estabelece que a segurança é uma parte crucial da fase de design de um sistema de inteligência artificial.
O documento está em consonância com iniciativas anteriores dos Estados Unidos, notadamente a ordem executiva assinada em outubro pelo presidente Joe Biden.
Dentre os tópicos abordados, destacam-se questões relacionadas à prevenção de invasões de hackers em plataformas de inteligência artificial e recomendações para liberar modelos somente após testes de segurança adequados.
Contudo, vale observar que o acordo não aborda questões como usos apropriados de ferramentas desse tipo ou a coleta de dados destinados ao treinamento dos modelos.
Documento é assinado por 18 países sobre Inteligência Artificial
O acordo, assinado por 18 países, inclui uma lista abrangente de signatários, a saber: EUA, Austrália, Canadá, Nova Zelândia, Chile, República Tcheca, Estônia, França, Alemanha, Israel, Itália, Japão, Nigéria, Noruega, Polônia, Coreia do Sul e Singapura.
Vale destacar que o documento recebeu contribuições significativas de empresas e organizações proeminentes, como Amazon, Anthropic, Google, Hugging Face, IBM, Microsoft e OpenAI.
Fonte: Reuters, The Hacker News.
Achou útil essa informação? Compartilhe com seus amigos! 
Deixe-nos a sua opinião aqui nos comentários.
