Google ha anunciado la retirada de una función de generación de imágenes por IA en Google Earth, lanzada recientemente, debido a preocupaciones sobre su potencial uso indebido. La herramienta permitía a los usuarios crear escenas aéreas fotorrealistas a partir de descripciones de texto, pero existe el temor de que esto pueda facilitar la creación de imágenes satelitales falsas.
La decisión se produce un día después de la presentación de la función y ante las inquietudes expresadas por observadores y expertos. Se teme que la tecnología pueda ser utilizada para generar imágenes que parezcan auténticas, lo que complicaría la labor de periodistas, investigadores y verificadores de datos al dificultar la distinción entre lo real y lo fabricado.
En un comunicado publicado en X, Google afirmó que retirará la función para implementar controles de seguridad más estrictos. La compañía enfatizó que ninguna de las imágenes generadas por IA había aparecido aún en la plataforma principal de Google Earth, subrayando su compromiso con la integridad de la información.
La retirada de esta herramienta pone de relieve los desafíos éticos y de seguridad que acompañan al rápido avance de la IA generativa. A pesar de la inversión de Google en IA, la rápida implementación de estas tecnologías requiere una cuidadosa consideración de sus posibles consecuencias y la aplicación de salvaguardas efectivas.
Este incidente subraya la importancia de desarrollar marcos de control y verificación robustos para las herramientas de IA generativa, especialmente aquellas que interactúan con representaciones del mundo real, para prevenir la desinformación y mantener la confianza en las fuentes de información.