Há uma nova tendência um tanto preocupante que está viralizando: as pessoas estão usando o ChatGPT para descobrir a localização mostrada em fotos.
Esta semana, a OpenAI lançou seus mais novos modelos de IA, o3 e o4-mini, ambos capazes de 'raciocinar' de maneira única através de imagens enviadas. Na prática, os modelos podem recortar, girar e ampliar fotos - mesmo as borradas e distorcidas - para analisá-las minuciosamente.
Essas capacidades de análise de imagem, aliadas à capacidade dos modelos de buscar na web, resultam em uma ferramenta potente de localização. Os usuários na X rapidamente descobriram que o o3, em particular, é bastante bom em deduzir cidades, pontos turísticos e até restaurantes e bares a partir de pistas visuais sutis.
Uau, acertou e nem mesmo há uma árvore à vista. pic.twitter.com/bVcoe1fQ0Z
- swax (@swax) 17 de abril de 2025
Em muitos casos, os modelos parecem não estar se baseando em 'memórias' de conversas anteriores do ChatGPT, ou em dados EXIF - os metadados anexados às fotos que revelam detalhes como onde a foto foi tirada.
A X está repleta de exemplos de usuários fornecendo para o ChatGPT cardápios de restaurantes, fotos de bairros, fachadas e autorretratos, e instruindo o o3 a imaginar que está jogando 'GeoGuessr', um jogo online que desafia os jogadores a adivinhar locais a partir de imagens do Google Street View.
este é um recurso divertido do ChatGPT o3. geoguessr! pic.twitter.com/HrcMIxS8yD
- Jason Barnes (@vyrotek) 17 de abril de 2025
É um problema de privacidade óbvio. Nada impede um agente malicioso de tirar um print, por exemplo, de uma História do Instagram de alguém e usar o ChatGPT para tentar descobrir informações pessoais sobre essa pessoa.
o3 é insano. Pedi a um amigo meu para me dar uma foto aleatória. Eles me deram uma foto aleatória que tiraram em uma biblioteca. o3 descobre em 20 segundos e acerta. pic.twitter.com/0K8dXiFKOY
- Yumi (@izyuuumi) 17 de abril de 2025
Claro, isso poderia ser feito mesmo antes do lançamento do o3 e o4-mini. O TechCrunch rodou várias fotos no o3 e em um modelo mais antigo sem capacidades de raciocínio de imagem, o GPT-4o, para comparar as habilidades de dedução de localização dos modelos. Surpreendentemente, o GPT-4o chegou à mesma resposta correta que o o3 na maioria das vezes - e levou menos tempo.
Houve pelo menos uma instância durante nossos testes rápidos em que o o3 encontrou um lugar que o GPT-4o não conseguiu. Dada uma foto de uma cabeça de rinoceronte montada em roxo em um bar pouco iluminado, o3 respondeu corretamente que era de um speakeasy em Williamsburg - e não, como o GPT-4o supôs, de um pub no Reino Unido.
Não é para sugerir que o o3 seja impecável nesse aspecto. Vários de nossos testes falharam - o o3 ficou preso em um loop, incapaz de chegar a uma resposta com a qual estivesse razoavelmente confiante, ou forneceu uma localização errada. Usuários na X também observaram que o o3 pode errar bastante em suas deduções de localização.
Mas a tendência ilustra alguns dos riscos emergentes apresentados por modelos de IA mais capazes, chamados de 'raciocínio'. Parece haver poucas salvaguardas para impedir esse tipo de 'busca de localização reversa' no ChatGPT, e a OpenAI, a empresa por trás do ChatGPT, não aborda a questão em seu relatório de segurança para o o3 e o4-mini.
Entramos em contato com a OpenAI para comentar. Atualizaremos nosso artigo se eles responderem.
