Full transcript
0:00Quiero comentarles que aquí mucha
0:02atención porque la ONU ha pedido una
0:05acción urgente, ah, pero urgente para
0:08regular el desarrollo demasiado
0:10acelerado, dicen ellos, de la
0:13inteligencia artificial y sobre todo con
0:15esto reducir los riesgos. Advertido que
0:18los sistemas avanzados podrían incluso
0:21amenazar derechos fundamentales, afectar
0:24la privacidad de cada uno de nosotros,
0:28la salud y seguridad. Además de
0:30paralizar servicios esenciales e
0:32infraestructuras críticas y también
0:35alertó sobre su impacto en conflictos
0:38armados y armas de destrucción masiva.
0:42Ante estos peligros instó a gobiernos y
0:44empresas tecnológicas a establecer
0:47reglas internacionales basadas en los
0:49derechos humanos y el derecho
0:51internacional. Seguramente usted ha
0:54leído o ha escuchado en algún reel de
0:56Instagram o por TikTok que la IA podría
1:00acabar con la humanidad. Bueno, sobre
1:02esto y muchas dudas más, muchos
1:05mensajes, algunos eh que son de pura
1:07conspiración, así lo ha dicho, por
1:09ejemplo, Donald Trump, lo vamos a
1:11conversar con nuestro gran invitado.
1:13Como siempre, bienvenido, Carlos Eduardo
1:15Zúñiga, especialista en defensa
1:17consumidor y presidente de elegir. ¿Cómo
1:19estás, Eduardo? Ya la vez pasada me ha
1:21traumado.
1:22Sí, soy culpable. Es verdad,
1:23a todos en realidad, pero es es la
1:25realidad, pues no.
1:26O sea, el tema es que te por un lado,
1:28como estamos permanentemente expuestos,
1:30como tú bien dices, a la inteligencia
1:32artificial en todas partes, en las
1:34estafas, en la tele, en el trabajo,
1:36tenemos que entender, ya habíamos
1:38hablado de cómo funciona, pero tenemos
1:39que entender también cuáles son los
1:41riesgos y hasta dónde llegan. Hay una,
1:44digamos, un movimiento esta semana muy
1:46fuerte donde dicen que esencialmente va
1:48a aparecer Terminator y nos va a matar a
1:50todos
1:51en un plazo de 10 años. Y, o sea, hay un
1:54riesgo intrínseco a cómo se desarrolla
1:57la inteligencia artificial porque en
1:58algún punto va a llegar un momento en el
2:01que la inteligencia artificial se pueda
2:02poder mejorar a sí misma,
2:04mejor que el humano,
2:05o sea, mejorar a sí misma es que ya no
2:06necesita el humano para que le haga
2:07aprender nada. Ahorita no estamos ahí
2:10todavía y ese es un momento de riesgo
2:12porque significa de que la inteligencia
2:14va a poder avanzar sin ningún control ni
2:17entendimiento de nuestra parte, o sea,
2:19va a aprender a hacerlo sin nosotros.
2:22Solit se van a desarrollar
2:23y entonces ya los mecanismos de control
2:25que nosotros podamos implementar en el
2:27tiempo no van a ser eficientes, o sea,
2:29no van a funcionar. Hoy, como dicen ya
2:32varias personas que trabajan en estas
2:34grandes empresas de IA, no hay mucho
2:37control sobre, o sea, no se entiende ya
2:39un poco de cómo está avanzando el
2:42desarrollo del digamos de la mente de
2:44estas IAS, por decirlo sencillo,
2:47pero no estamos en el punto todavía en
2:49el que nos van a dominar. Si es un
2:51momento para prestar atención, como dice
2:53la ONU, en qué mecanismos vamos a
2:56implementar a futuro antes de que se nos
2:57escape de las manos. Eso es por un lado,
3:00pero por otro lado se está jugando mucho
3:02precisamente a este temor de que nos
3:05vaya a conquistar prácticamente la IA
3:07para tratar de pasar ciertas este
3:10medidas legales en Estados Unidos que ya
3:13forman parte como de un juego comercial
3:16de las grandes desarrolladoras versus
3:17las pequeñas desarrolladoras de ella,
3:19porque de hecho nosotros no vamos este
3:21digamos vamos a creer lo que ha dicho el
3:24CEO de Antropic y exdarrolladores que
3:27han dicho abiertamente, he tenido que
3:28renunciar porque lo que viene es atroz y
3:31todavía te dan una fecha máxima, un año,
3:33que sería 2030, o sea, 2030 tú y yo eh
3:36que en paz descanse,
3:37ya no estamos.
3:39Claro, pero si uno se da cuenta, hay una
3:41hay como un timing, hay una agenda que
3:43se ido desarrollando en la última semana
3:45donde de la nada las empresas se ponen
3:48todas de acuerdo, los escándalos se
3:50destapan, los especiales salen, o sea,
3:53sí parece que estuvieran tratando de
3:55aplicar una, digamos, un una estrategia
3:59que ya se ha hecho en el pasado para
4:01otros rubros comerciales y tiene que ver
4:03más con cómo las empresas grandes cuando
4:05ya tienen un control de mercado, que en
4:07este caso son estas las grandes empresas
4:09Anthropic, Open AI, ¿cómo hacen para que
4:12si hay empresas más chiquitas que
4:14quieren alcanzarlos no puedan?
4:15¿Cómo frena? Entonces, yo lo que hago es
4:17si ya estoy arriba, pongo una serie de
4:20trabas para que el chiquito no pueda
4:22llegar, no pueda desarrollarse tan
4:23rápido como yo lo pude hacer y no pueda
4:25llegar a competir contra mí.
4:26Entonces, ese sería el motivo detrás de
4:28lo que hoy tanto se comenta para decir
4:31no más. Pero tenemos que entender que si
4:33bien lo que está motivando en este
4:35momento parece ser un asunto netamente
4:37de una batalla comercial, un tema
4:39geopolítico versus China, si bien
4:41estamos ahí, eso no implica que no
4:43existan riesgos. Por eso tenemos que
4:45leerlo de la ONU que habías mencionado
4:46al inicio, en otra perspectiva, o sea,
4:48en otro lugar. Y tenemos que entender
4:50que sí la ONU tiene razón en el sentido
4:52de que tenemos que implementar
4:55ciertas salvaguardas a nivel mundial
4:57para el desarrollo de la IA para poder
5:00estar protegidos a futuro.
5:01Y tenemos nosotros que también por
5:03nuestro lado, y eso lo hemos conversado
5:04antes también en el programa de aprender
5:06cómo protegernos nosotros para no
5:09facilitarle a la IA el hecho de que
5:10luego puedan utilizarnos.
5:12Carlos Eduardo, como a la gente le
5:14encanta esos temas, a mí también, a Soy
5:16aficionada, hemos preparado una gráfica.
5:18Yo le he pasado esto al productor, ¿sí?
5:20Alejandro, para poder interpretarlo un
5:22poco sobre los porcentajes de riesgos
5:25que hoy se clasifican en diversos
5:27puntos. Lo compartimos. A ver, ¿qué te
5:29parece, Carlos, si hecho bien mi trabajo
5:31o no? Dice, "Posibles daños
5:32catastróficos por la IA." Dice, "Ia con
5:35capacidades peligrosas. Estamos frente a
5:38un agi o agi que es que la inteligencia,
5:42apuntaba acá, es mayor que cualquier
5:45humano. Estamos en la supera,
5:48no estamos ahí.
5:49Pero eso no implica que estas cosas no
5:52estén pasando ya. Regresemos a la guerra
5:54de Ucrania, regresemos a los drones
5:56iraníes.
5:57Estamos hablando de que ya hay
5:59mecanismos de inteligencia artificial
6:00que se utilizan para fines bélicos. O
6:02sea, esa es una se está utilizando la
6:04inteligencia artificial para todo el día
6:06de hoy. Eso no implica que esa
6:08inteligencia artificial ya esté por
6:10sobre nuestra capacidad humana o se haya
6:12salido de control.
6:14Existe el riesgo, no hoy día.
6:16Ahora, aquí apunta mi siguiente
6:17pregunta. ¿Es posible desacelerar el
6:20desarrollo de la IA en la que está ahora
6:22porque avanza a pasos agigantados?
6:24Esto es un pinchaglobos total, pero no
6:25es posible porque tú puedes hay dos
6:28razones muy claras. Uno, tú puedes poner
6:31reglas para frenarla, pero esas reglas
6:34solamente van a aplicar para los que
6:35hacen caso a las reglas. Entonces, si tú
6:37tienes un país entero compitiendo y que
6:39dice, "Yo no estoy de acuerdo con las
6:40reglas", pongamos por ejemplo China, lo
6:42que va a pasar es que a ese lado va a
6:44seguir avanzando, entonces se va a
6:45frenar de un lado, pero no del otro. Y
6:48hay otra causa que es el hecho de que
6:50nosotros vemos las las inteligencias
6:52artificiales más grandes, las más
6:53famosas, ¿no? Las de no sé, pues Clud o
6:56Chatipit o Rock incluso en
6:59en X.
6:59Exacto. Pero no vemos que hay un montón
7:01de desarrollos que están pasando por
7:03debajo del radar que son
7:04sabemos
7:05hechos en casa, digamos, y que pueden
7:06tener la potencialidad,
7:08o sea, bajo un supuesto fantástico de
7:10llegar a este nivel. Entonces,
7:13no, o sea, tú no puedes vía regulación
7:15frenar el avance de una tecnología
7:17porque esto está ocurriendo de todas
7:19maneras.
7:19Exactamente, querido Carlos Eduardo.
7:22Ciberata desarrollo, uso de armas y
7:24daños masivos 21%. ¿A qué nos referimos?
7:28Y de hecho lo analizaba, ¿es posible que
7:31mañana pueda haber un hackeo en el
7:33sistema financiero y todo el mundo no
7:35queremos sin un sol?
7:37Sí.
7:38Ay, Dios. O sea, Dios mío, pero no es
7:40que no es que una inteligencia
7:42artificial rebelde hoy día diga, "Voy a
7:45destruir a la humanidad haciendo lo que
7:46era más o menos lo que han estado
7:47vendiendo esta semana,
7:48que se van a liar,
7:49pero no necesariamente, o sea, digamos,
7:52la herramienta existe y como es muy
7:54avanzada, es cada vez más fácil que una
7:57persona pueda utilizarla como
7:59herramienta, como si fuera un arma, para
8:01poder violentar y poder ingresar a
8:04sistemas cerrados. Ya pueden ser
8:05financieros, puedan ser bélicos, ¿no es
8:08cierto? pueden ser militares,
8:09energéticos,
8:11pero en ese en ese contexto la IA es una
8:13herramienta que lo facilita, pero ya ha
8:15pasado. Ya han habido ataques en el
8:17mundo sin necesidad de inteligencia
8:19artificial utilizando inteligencia
8:22social. A veces nos olvidamos que el
8:24delincuente, el criminal, no necesita
8:26tener las cosas de última generación
8:29para lograr un resultado, un con una lo
8:32noticia que acabas de mostrar el del
8:34correo este de combate
8:35hecho por ella para ti o no. Eh, de
8:37repente hecho poría de repente de
8:39repente no, pero
8:39es un ciberdelincuente,
8:40pero es un ciberdelincuente, pero
8:42esencialmente es una persona que no
8:43necesita la IA porque está contando con
8:45que tu curiosidad va a ser el trabajo,
8:47que tú vas a hacer clic y tú vas a
8:49vulnerar tu computadora. Esto ya está
8:52pensado para sistemas avanzados de
8:54seguridad. Por ejemplo, ¿qué pasa si tú
8:56quieres entrar al al sistema de que
8:58controlan los misiles de la Fuerza
9:00Aérea?
9:01Eso no se hace pues con un correo
9:02necesariamente. Ahí necesitas una
9:04herramienta más avanzada. como
9:05herramienta, ya estamos llegando a ese
9:07punto, que sea la herramienta sola
9:10despierte y diga, "Voy a dominar a la
9:11humanidad, no estamos ahí todavía."
9:13Entonces, hay que marcar cuáles son los
9:15puntos de desarrollo para saber hasta
9:17dónde tiene que llegar nuestro temor, o
9:20sea, no estar desbordado y pensar de que
9:21esto es un escenario apocalípto.
9:23Pero aunque no lo creas, ya hay un
9:24escenario apocalíptico, porque se habla
9:26de que con la IA estos desarrolladores
9:28podrían provocar un apagón universal,
9:31podrían eh crear un virus, nuevas armas
9:35y finalmente acabar con todos. Sí, o
9:38sea, no es pero no es no es el digamos
9:40no es la única herramienta, ¿no? O sea,
9:42no pensemos que por la herramienta ser
9:44una herramienta potente, esto esto es lo
9:47que nos va a llevar a la catástrofe.
9:49Hemos vivido un periodo que así como
9:51estamos viviendo ahora la era de la IA,
9:52hemos vivido la era nuclear que fueron
9:54los 60s y que teníamos un el reloj
9:58nuclear y pensábamos que en cualquier
9:59momento un dedo de un presidente iba a
10:01acabar con la humanidad. Entonces, y eso
10:04nos pone en contexto de cómo las
10:06herramientas en sí mismas van cambiando
10:08con el tiempo, pero el riesgo proviene
10:10de nosotros. Esto tiene una
10:12particularidad que es que puede generar
10:15en algún punto del futuro una
10:17inteligencia propia que ella sí pueda
10:20ponerse en contra de la humanidad en el
10:21futuro quizás. Pero el día de hoy esto
10:24es lo que fue en los 60s, la digamos el
10:27desarrollo nuclear y que nos puso
10:28también en un riesgo bien importante.
10:30Claro que sí, Carlos Eduardo. Eh, ya
10:33hemos un poco analizado un poco,
10:35insisto, con algunas preguntas que me
10:36dice producción por redes sociales. La
10:38IA terminará dominando a la humanidad,
10:41¿sí o no? ¿Y en cuánto tiempo? 2030, un
10:44poco antes.
10:45Es una posibilidad. Sí.
10:48¿Cuánto tarde? No tenemos cómo saberlo.
10:51Los que han ensayado y la pregunta viene
10:53justamente porque parte de esta de este
10:55de esta histeria que se ha intentado
10:57generar la semana pasada tenía que ver
10:58con que habían puesto un plazo de 10
10:59años. O sea, que para el 2036
11:02vamos a tener pues a nuestros nuestros
11:04amos ciberdigitales, digamos. Pero no
11:07necesariamente ese es el caso. Eh, no
11:10sabemos si vamos a llegar a ese punto en
11:11el que la inteligencia va a lograr lo
11:14que están diciendo, ¿no?
11:14Realmente, Carlos, un gusto de verdad
11:17tenerte aquí como siempre, que te sigan
11:18en tus redes sociales, por supuesto,
11:20para aprender un poco más, ¿no?, sobre
11:22estas curiosidades que tenemos. ¿Cuáles
11:23son tus redes sociales?
11:24Bueno, estoy como Carlos es única, en
11:26todas partes más o menos o elegir Perú.
11:29Carlos, nos vamos a tomar una tacita de
11:30café para seguir conversando de esto
11:32porque nos quedó cortísimo el tiempo.