NUESTRAS REDES

Tecnología

ONU pide acelerar la regulación de la inteligencia artificial ante riesgos para la humanidad

Foto del avatar

Publicado

el

El alto comisionado de Naciones Unidas para los Derechos Humanos, Volker Türk, pidió acelerar la regulación internacional de la inteligencia artificial (IA). Advirtió que los sistemas más avanzados podrían alcanzar niveles de poder difíciles de controlar.

Türk planteó la advertencia este lunes durante la apertura de la 63ª sesión del Consejo de Derechos Humanos, en Ginebra. Allí reclamó garantías firmes para proteger la seguridad y los derechos humanos frente al avance de esta tecnología.

El funcionario también cuestionó la concentración del desarrollo de la IA en un reducido grupo de empresas y personas. Según Türk, esta situación aumenta los riesgos mientras los gobiernos aún buscan acuerdos comunes para regular la tecnología.

El llamado busca reglas comunes entre países

Türk pidió a los países que albergan centros de desarrollo de IA y participan en sus cadenas de suministro establecer límites comunes.

El alto comisionado también reclamó verificaciones independientes sobre la seguridad de los sistemas. Además, pidió una cooperación más estrecha entre las empresas tecnológicas para detectar y reducir riesgos.

La propuesta apunta a crear normas internacionales que definan qué acciones no deberían permitirse a los sistemas avanzados de IA. Türk consideró que la regulación no puede avanzar de forma aislada entre países.

El funcionario reconoció algunos avances en materia de gobernanza. Sin embargo, sostuvo que todavía existe una brecha entre el reconocimiento de los riesgos y la adopción de medidas concretas.

También anunció que escribirá próximamente a las empresas del sector. Su objetivo será pedirles que adopten medidas inmediatas dentro de sus capacidades para reducir los riesgos.

Pruebas de seguridad aumentan las preocupaciones

La advertencia de Türk coincide con incidentes registrados durante pruebas de modelos avanzados de IA.

El funcionario mencionó escenarios en los que sistemas de IA podrían escapar de sus entornos de prueba. También aludió a casos simulados en los que modelos recurrieron al engaño o al chantaje para evitar su apagado.

Un episodio relacionado ocurrió en julio durante un incidente que involucró agentes de IA y la plataforma de desarrolladores Hugging Face. Según reportes, agentes vinculados a OpenAI ejecutaron código en servidores de la plataforma y obtuvieron acceso completo a uno de ellos.

Otros desarrolladores, entre ellos Anthropic y Alibaba, también han reportado comportamientos problemáticos durante pruebas de agentes. Estos episodios han reforzado el debate sobre si los controles actuales avanzan al mismo ritmo que las capacidades de los modelos.

Derechos humanos, empleo y democracia quedan en juego

La preocupación de la ONU no se limita a la posibilidad de que una IA pierda el control.

Türk señaló que la gobernanza de esta tecnología también debe abordar sus efectos sobre los derechos humanos, el empleo y la democracia. Asimismo, pidió considerar su impacto ambiental.

El alto comisionado sostuvo que la concentración del poder tecnológico representa otro desafío. Sin mencionar empresas concretas, afirmó que un pequeño grupo de personas concentra una influencia casi ilimitada sobre el desarrollo de la IA.

Desde esta perspectiva, el debate regulatorio ya no se centra únicamente en cómo evitar fallos técnicos. También incluye quién controla los sistemas, cómo se supervisan y qué límites deben aplicar los gobiernos.

La Unión Europea ya cuenta con un marco regulatorio

La Unión Europea representa uno de los principales ejemplos de regulación de la inteligencia artificial.

Su Ley de Inteligencia Artificial establece obligaciones específicas para sistemas considerados de alto riesgo. También prohíbe determinados usos que pueden amenazar la seguridad o los derechos fundamentales.

Türk reconoció estos avances, aunque planteó que las iniciativas nacionales o regionales no resultan suficientes ante una tecnología que opera a escala global.

Por ello, su propuesta busca una mayor coordinación entre países. El objetivo sería establecer estándares comunes de seguridad, supervisión y responsabilidad.

Las reacciones se concentran en el debate sobre seguridad

La advertencia de Türk encontró amplia cobertura internacional y reactivó el debate sobre los riesgos de la IA avanzada. Medios especializados y generalistas destacaron especialmente su llamado a establecer límites internacionales y controles independientes.

La preocupación tampoco surge únicamente desde Naciones Unidas. El propio Türk señaló que comparte inquietudes expresadas por personas dentro de la industria tecnológica sobre los riesgos de sistemas cada vez más capaces.

El desafío será convertir la advertencia en reglas

La petición de Naciones Unidas coloca nuevamente la gobernanza de la IA en el centro de la agenda internacional.

El desafío será traducir las advertencias sobre seguridad en mecanismos concretos. Entre ellos figuran controles independientes, intercambio de información entre empresas y límites comunes para los sistemas más avanzados.

La discusión también plantea un problema político. Los países deben coordinar reglas pese a competir por liderazgo tecnológico, inversiones y capacidad de cómputo.

Türk considera que retrasar esa coordinación favorece principalmente a las grandes empresas tecnológicas y a sus propietarios. Por eso, su llamado busca que los gobiernos pasen del reconocimiento del riesgo a medidas internacionales concretas.

Click para comentar

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Tecnología

Inteligencia artificial y biometría redefinen la lucha contra el fraude digital

Foto del avatar

Publicado

el

La inteligencia artificial, la biometría y el blockchain están transformando la prevención del fraude y la construcción de confianza digital en bancos y empresas financieras.

Así quedó planteado durante un panel de Fintech Summit Americas & Token Americas, dedicado a los retos de identidad, cumplimiento y seguridad en la era de la inteligencia artificial.

Especialistas de empresas tecnológicas y financieras analizaron las herramientas que marcarán la evolución del sector durante los próximos años. También abordaron los controles necesarios para evitar riesgos derivados del uso de nuevos modelos tecnológicos.

Los modelos de IA deberán explicar sus decisiones

Ricardo Rebolledo, Country Manager México de Acid Labs, señaló que la explicabilidad de la inteligencia artificial ya resulta indispensable.

Según explicó, un modelo que asigna un nivel de riesgo debe identificar las variables que determinaron ese resultado. Entre ellas pueden figurar cambios de dispositivo o discrepancias de geolocalización.

La explicación no exige mostrar el código del sistema. En cambio, debe permitir justificar matemáticamente sus decisiones ante un regulador.

Un modelo de control con participación humana

Los especialistas también plantearon el esquema HAC como referencia para administrar modelos de inteligencia artificial aplicados al fraude.

El concepto incluye tres elementos: participación humana, auditoría y control.

Las operaciones de mayor riesgo deben llegar a una persona para incorporar criterio humano. Además, las empresas deben monitorear los modelos para identificar sesgos o deterioros.

Por último, las organizaciones necesitan capacidad para detener y recalibrar un sistema cuando pierda efectividad.

La identidad gana prioridad en las inversiones

Carlos Bravo, CISO de SPIN, identificó la gestión de identidades como una de las principales áreas de inversión para los próximos dos años.

La prioridad no se limita a los clientes. También incluye a los trabajadores dentro de las organizaciones.

El objetivo consiste en identificar a cada usuario y asignarle los accesos y privilegios adecuados según sus funciones.

Bancos y fintechs avanzan hacia una mayor colaboración

Héctor Cárdenas, CEO y cofundador de Conekta, recordó que la relación entre bancos y fintechs comenzó con mayores niveles de desconfianza.

Sin embargo, esa dinámica cambió hacia una colaboración más activa entre empresas financieras y tecnológicas.

Cárdenas citó acuerdos entre compañías como Clip, Confío y Bitso. También destacó un producto desarrollado junto con BBVA, denominado Pago Directo.

La solución permite pagar mediante la billetera digital de BBVA, con aceptación del 100% y sin contracargos, según explicó.

La industria apunta a reducir el fraude hacia 2030

Los panelistas plantearon una infraestructura tecnológica integrada como parte de la evolución del sector.

La biometría conductual podría validar identidades sin exponer datos sensibles. A su vez, la inteligencia artificial podría coordinar estas herramientas y medir riesgos.

El blockchain tendría el papel de registrar identidades descentralizadas mediante una bitácora verificable.

Cárdenas planteó como objetivo llegar a 2028 con cero contracargos y transacciones libres de fraude.

Rebolledo, por su parte, destacó que la inteligencia artificial debe proteger a las instituciones, pero sin sustituir la responsabilidad humana.

Además, el avance de la computación cuántica abrirá nuevos desafíos regulatorios y operativos. En ese escenario, los especialistas prevén un fraude más rápido, voluminoso y diverso.

Leer más

Tecnología

Inteligencia artificial reescribe el futuro del cine y el video

Foto del avatar

Publicado

el

“Luces, cámaras… ¡IA!”. La inteligencia artificial está transformando la industria del cine y la producción audiovisual. La tecnología modifica desde la planificación de un rodaje hasta los efectos visuales, la edición y la creación de personajes digitales.

El cambio también afecta la economía del sector. Las herramientas generativas permiten automatizar tareas que antes requerían equipos especializados y procesos más largos. Esto abre oportunidades para producciones independientes, aunque el impacto sobre los costos varía según el proyecto y el nivel de intervención humana.

Menos costos y más herramientas para producir

La IA puede intervenir en el análisis de guiones, la planificación de rodajes, la previsualización de escenas y determinadas tareas de posproducción.

Estas aplicaciones permiten realizar pruebas y modificaciones antes de comprometer recursos en un rodaje. También facilitan la creación de imágenes, escenarios y secuencias para evaluar decisiones creativas.

El efecto puede ser especialmente relevante para productoras con presupuestos limitados. La automatización reduce algunas barreras técnicas y permite dedicar más recursos a las decisiones creativas.

Sin embargo, la IA no elimina los costos de producción. El rodaje, los actores, los equipos técnicos, las locaciones y la supervisión profesional siguen siendo necesarios en numerosos proyectos.

Los modelos generativos avanzan

Los sistemas de generación de video han mejorado su capacidad para producir secuencias con movimiento, iluminación y personajes más consistentes.

Estas herramientas también empiezan a integrarse en procesos tradicionales de posproducción. El objetivo es acelerar tareas como edición, efectos visuales, generación de audio y modificaciones de escenas.

La evolución tecnológica está desplazando parte del trabajo desde la ejecución manual hacia la dirección creativa, la supervisión y la selección de resultados.

El derecho de autor entra en una zona de disputa

Uno de los mayores desafíos está en determinar quién puede reclamar derechos sobre una obra creada con IA.

La Oficina de Derechos de Autor de Estados Unidos concluyó en 2025 que un contenido generado mediante IA puede recibir protección cuando existe suficiente aportación creativa humana. La simple elaboración de instrucciones o prompts no basta por sí sola.

El debate también alcanza los materiales utilizados para entrenar los modelos. Empresas tecnológicas enfrentan demandas de autores, medios y titulares de derechos que cuestionan el uso de contenido protegido sin autorización.

La disputa continúa abierta. Recientemente, el Gobierno de Estados Unidos intervino en el caso entre OpenAI y The New York Times al defender ante un tribunal una interpretación favorable al uso de material protegido para entrenar modelos de IA.

Actores reclaman control sobre sus réplicas

La imagen y la voz de los intérpretes constituyen otro frente de conflicto.

El acuerdo de 2023 de SAG-AFTRA incorporó protecciones sobre réplicas digitales. El sindicato señala que los productores deben obtener consentimiento informado para crear y utilizar determinadas réplicas de voz o imagen de sus miembros.

Las reglas también contemplan mecanismos para negociar el uso de intérpretes completamente sintéticos. El objetivo es evitar que estas herramientas sustituyan automáticamente el trabajo humano sin negociación.

Los festivales enfrentan un nuevo reto

La expansión del contenido generado con IA también plantea preguntas para los festivales y otros espacios de exhibición.

La discusión ya no se limita a qué herramientas pueden utilizar los cineastas. También alcanza la transparencia sobre su utilización y el papel que conserva la autoría humana.

Para la industria, el desafío será encontrar un equilibrio entre innovación y protección de los derechos de creadores, intérpretes y productores.

La IA no está eliminando el cine tradicional, pero sí está modificando sus reglas. La discusión ahora se centra en cuánto trabajo puede automatizarse, quién controla esa tecnología y cómo se protege el valor creativo de las personas.

Leer más

Tecnología

Expertos recomiendan proteger los datos personales para prevenir fraudes impulsados por inteligencia artificial

Foto del avatar

Publicado

el

La inteligencia artificial permite a los ciberdelincuentes investigar a posibles víctimas con mayor rapidez y preparar estafas más personalizadas. La empresa de ciberseguridad ESET advierte que reducir la información pública puede dificultar estos ataques.

La compañía de seguridad informática señala que la IA también reduce los conocimientos necesarios para ejecutar distintas actividades delictivas. Entre ellas figuran el reconocimiento de objetivos, la creación básica de malware y la explotación de vulnerabilidades.

“Si los ataques se vuelven más baratos y fáciles de ejecutar para los estafadores, cualquiera podría convertirse en un objetivo”, afirmó Mario Micucci, investigador de ESET Latinoamérica.

Las redes sociales se convierten en una fuente de información

Antes de la IA, los delincuentes debían invertir tiempo para identificar cuentas, intereses, familiares, amistades y actividades de sus objetivos.

Ese proceso podía requerir revisar numerosos perfiles, sitios web y publicaciones. Además, exigía relacionar y verificar los datos encontrados.

Ahora, las herramientas de IA pueden localizar información pública y relacionarla con posibles víctimas. También pueden analizar imágenes y videos para encontrar elementos útiles.

ESET explica que esta capacidad facilita la creación de campañas de ingeniería social más convincentes. Los delincuentes pueden adaptar sus mensajes según la información disponible sobre cada persona.

Un correo puede incorporar detalles reales de la víctima

La información pública puede ayudar a construir mensajes de phishing más creíbles. Un correo fraudulento podría mencionar el trabajo, la escuela de un hijo o un viaje reciente.

Estos detalles pueden aumentar la confianza de la víctima y facilitar el robo de credenciales. También pueden conducirla hacia enlaces maliciosos o programas dañinos.

Según ESET, los modelos de lenguaje pueden analizar grandes cantidades de información en poco tiempo. Además, pueden ayudar a redactar guiones de ingeniería social para distintos canales.

La IA incluso puede facilitar mensajes convincentes en otros idiomas. Esto permite a los estafadores ampliar el alcance de sus campañas.

Los deepfakes elevan el riesgo de suplantación

Los delincuentes también pueden utilizar inteligencia artificial para imitar voces e imágenes. Estas herramientas permiten crear videos o llamadas diseñadas para engañar a familiares y conocidos.

Una estafa podría simular una emergencia y pedir dinero con la supuesta voz de un familiar. También puede utilizar una identidad falsa para exigir un rescate.

ESET advierte además sobre el uso de imágenes manipuladas para extorsionar a las víctimas. En el Reino Unido, cientos de menores de 18 años denunciaron casos relacionados con este tipo de delito.

Reducir la exposición limita la información disponible

Una vez que un dato llega a internet, eliminarlo por completo puede resultar difícil. Una fotografía o publicación puede haber sido copiada y difundida en otros sitios.

Por ello, ESET recomienda revisar qué información permanece disponible públicamente. También aconseja configurar las redes sociales para limitar el acceso a perfiles, fotografías y videos.

Los usuarios deberían evitar publicar fechas de nacimiento, vacaciones, actividades familiares o información sobre las escuelas de sus hijos.

Además, las fotografías pueden revelar direcciones, vehículos y otros detalles sensibles. Por eso, conviene revisar el contenido antes de publicarlo.

La seguridad de las cuentas añade otra barrera

ESET también recomienda utilizar contraseñas únicas y robustas para cada cuenta. La autenticación multifactor puede añadir una protección adicional frente al robo de credenciales.

Asimismo, aconseja no aceptar solicitudes de amistad o seguimiento de personas desconocidas. Si existe alguna duda, el usuario puede contactar a esa persona mediante otro canal.

La compañía plantea además evitar publicaciones que permitan relacionar fácilmente la vida personal con la actividad profesional.

Micucci señaló que la inteligencia artificial aporta beneficios, pero también genera riesgos que los usuarios apenas comienzan a identificar.

Por ello, ESET recomienda asumir que cualquier información publicada en internet puede ser encontrada y procesada por sistemas de inteligencia artificial. Reducir esa exposición puede dificultar el trabajo de los estafadores.

Leer más

Tecnología

Tim Cook deja la dirección de Apple y John Ternus asumirá como CEO

Foto del avatar

Publicado

el

Tim Cook deja el cargo de CEO de Apple tras 15 años al frente de la compañía. John Ternus asumirá la dirección este martes, en una transición que marcará una nueva etapa para el gigante tecnológico.

Cook llegó al cargo en agosto de 2011, tras la etapa de Steve Jobs. Durante su gestión, Apple pasó de facturar 108,000 millones de dólares a más de 466,000 millones en los últimos 12 meses.

Además, la capitalización de mercado creció desde 338,000 millones hasta 4.5 billones de dólares. Apple ocupa actualmente el segundo lugar mundial por valor bursátil.

Durante su mandato, la empresa lanzó productos como el Apple Watch, los AirPods y Vision Pro. Sin embargo, el iPhone continuó como su principal motor de ingresos.

Cook también impulsó servicios como iCloud, Apple Pay, Apple TV y Apple Music. Estas plataformas ampliaron el negocio de Apple y aportaron ingresos de altos márgenes.

Ternus toma el control del hardware

John Ternus, de 51 años, llegó a Apple en 2001. Desde entonces, ocupó distintos cargos hasta convertirse en vicepresidente sénior de Ingeniería de Hardware.

Ternus dirige los equipos responsables de productos como el iPhone. Su experiencia podría marcar el rumbo de Apple en hardware e inteligencia artificial.

La compañía espera presentar nuevos productos en su evento del 9 de septiembre. Entre las novedades previstas figura un posible iPhone plegable.

Cook describió a Ternus como un visionario y lo consideró preparado para liderar la empresa hacia el futuro.

La inteligencia artificial será uno de sus grandes retos

El nuevo CEO asumirá Apple mientras la compañía busca fortalecer su posición en inteligencia artificial. Algunos analistas consideran que su experiencia en hardware puede influir en esa estrategia.

Dan Ives, de Yorkville Ives & Co., señaló que Ternus podría mantener la cadena de suministro construida durante la gestión de Cook.

Otros especialistas habían considerado al responsable de software Craig Federighi como una alternativa para dirigir la estrategia de inteligencia artificial.

Sin embargo, la analista Carolina Milanesi destacó la importancia del hardware para la adopción de nuevas tecnologías.

Cook seguirá vinculado a Apple

Cook no abandonará la compañía. Tras dejar la dirección ejecutiva, asumirá como presidente ejecutivo del consejo de administración.

Su nuevo papel incluirá contactos con responsables políticos de distintos países. Esto permitirá a Apple conservar su experiencia en asuntos internacionales y relaciones gubernamentales.

La relación con China y Estados Unidos representa uno de los principales desafíos para la empresa. Apple mantiene una cadena de suministro vinculada a China, aunque ha trasladado parte de su producción a India y Vietnam.

Por su parte, Ternus deberá asumir esa dimensión internacional mientras inicia su etapa como máximo ejecutivo de Apple.

Leer más

Tecnología

Apple prepara el lanzamiento del iPhone plegable para septiembre

Foto del avatar

Publicado

el

Apple prepara su próximo evento de lanzamiento para el 9 de septiembre, donde podría presentar su primer iPhone plegable junto con la nueva generación de teléfonos.

La presentación marcaría además el primer gran evento de John Ternus como director ejecutivo de la compañía. El ejecutivo asumirá el cargo el 1 de septiembre, mientras Tim Cook pasará a la presidencia ejecutiva.

El modelo plegable apunta a la gama alta

El nuevo dispositivo podría incorporar una pantalla de tamaño similar a la del iPad mini, según las previsiones de analistas.

La llegada de Apple ampliaría la competencia en un mercado todavía pequeño. Samsung Electronics mantiene actualmente el liderazgo en teléfonos inteligentes plegables.

Los analistas consideran que los modelos de gama alta podrían elevar el precio promedio de venta de Apple. También podrían contribuir al crecimiento de los márgenes de la compañía.

Apple busca impulsar el crecimiento

La apuesta por el formato plegable llega en un momento de presión para la industria tecnológica. La escasez de chips de memoria y almacenamiento elevó los costos y frenó la demanda de consumidores.

Apple ya incrementó los precios de algunos modelos de Mac y iPad para compensar el aumento de costos. Sin embargo, la empresa advirtió en julio sobre problemas de suministro que afectarían sus ventas del trimestre.

En ese contexto, el iPhone plegable representa una nueva oportunidad para ampliar la oferta de la compañía.

La demanda de teléfonos plegables sigue creciendo

La firma de análisis IDC prevé que Apple distribuya más de 17 millones de iPhone plegables para 2027.

Además, IDC proyecta un crecimiento de 12.6 % en los envíos mundiales de teléfonos plegables durante 2026.
En contraste, estima una caída récord de 16.7 % en los envíos globales de teléfonos inteligentes.

Samsung presentó este año un nuevo modelo plegable con un diseño similar al tamaño de un pasaporte. La compañía surcoreana busca así reforzar su posición antes de la posible entrada de Apple.

El lanzamiento también llega después del buen desempeño de la serie iPhone 17. Apple presentó entonces un modelo Air más delgado y mejoró las prestaciones de los modelos básicos.

Leer más

Popular