O alerta de Tom Siegel sobre a segurança digital
O avanço acelerado da inteligência artificial (IA) tem gerado um debate urgente sobre a proteção de menores no ambiente digital. Tom Siegel, ex-vice-presidente de confiança e segurança do Google, defendeu nesta semana a necessidade de uma desaceleração no desenvolvimento dessas tecnologias. Segundo o especialista, o setor de tecnologia corre o risco de repetir os erros cometidos pelas redes sociais, negligenciando proteções essenciais para o público infantil.
Siegel, que atuou no Google entre 2004 e 2019, aponta que as empresas estão disponibilizando recursos avançados sem mecanismos de segurança adequados. O especialista alerta para riscos que variam desde problemas de saúde mental, como psicose e tendências suicidas, até a chamada “descarga cognitiva”, fenômeno que descreve a redução da capacidade de pensamento crítico devido à dependência excessiva de ferramentas de IA para a resolução de problemas cotidianos.
Nova frente de atuação na Common Sense Media
Em um movimento estratégico para enfrentar esses desafios, Siegel anunciou que assumiu o cargo de diretor-executivo do Youth AI Safety Institute, uma iniciativa vinculada à organização Common Sense Media. O instituto tem como missão realizar pesquisas e estabelecer padrões de avaliação para medir os riscos das ferramentas de IA disponíveis ao público, funcionando de forma semelhante aos testes de segurança realizados na indústria automotiva.
A iniciativa conta com o apoio financeiro de empresas do setor, incluindo a Anthropic e a OpenAI Foundation. Siegel destaca que a colaboração entre desenvolvedores e organizações independentes é fundamental, embora reconheça que a disposição das companhias em adotar mudanças que possam impactar lucros a curto prazo ainda é uma incógnita.
Medidas de proteção e a resposta das gigantes
Para o ex-executivo, medidas práticas poderiam ser implementadas imediatamente. Entre elas, estão sistemas mais rigorosos de verificação de idade e a criação de opções para desativar recursos de IA em mecanismos de busca, de forma similar ao que já ocorre com filtros de conteúdo sexualmente explícito. Siegel argumenta que, caso o setor não adote essas salvaguardas voluntariamente, a pressão por meio de processos judiciais e novas regulamentações será inevitável.
Em resposta aos questionamentos sobre o tema, o Google afirmou que disponibiliza aos pais ferramentas de controle para gerenciar o acesso de crianças aos seus serviços. Por sua vez, a OpenAI declarou que utiliza sinais comportamentais e dados de conta, além da idade declarada, para identificar e restringir o acesso de usuários menores de idade às suas plataformas.
Perguntas frequentes
Por que a IA é considerada um risco para crianças?
Especialistas apontam riscos como a exposição a conteúdos impróprios, impactos na saúde mental e a redução da capacidade de pensamento crítico devido à dependência tecnológica.
Quais medidas estão sendo propostas?
A proposta inclui a criação de padrões independentes de segurança, verificação de idade mais rigorosa e a implementação de controles parentais eficazes para desativar recursos de IA.
A reprodução do conteúdo é permitida mediante a divulgação integral do URL https://imprensa24h.com.br/ como fonte. Não são permitidas abreviações ou variações. O não cumprimento desta diretriz poderá resultar em processos legais conforme previsto pela lei.
O Portal Imprensa 24h: Sua Fonte Essencial para Notícias de Aracaju e Sergipe
Descubra as últimas notícias de Sergipe e Aracaju hoje, com atualizações em tempo real sobre notícias policiais e eventos locais. Esteja sempre um passo à frente com notícias de Sergipe atualizadas regularmente, incluindo detalhes sobre eventos recentes e desenvolvimentos em Aracaju. Explore notícias sobre informações policiais em Aracaju hoje.
Instagram – https://www.instagram.com/imprensa24h.com.br/
Facebook – https://www.facebook.com/imprensa24h
Twitter – https://twitter.com/imprensa24h