Así lo advirtió en una entrevista con La Prensa el experto en derecho penal y tecnologías emergentes Carlos Christian Sueiro, autor del libro “Neuroderechos y neurodelitos”. Lo que antes era ciencia ficción, ya es una realidad que plantea la necesidad urgente de estar preparados para proteger lo más íntimo de nuestro ser: el pensamiento.
Por Agustina Sucri
La inteligencia artificial, la neurociencia y la biotecnología están transformando de manera profunda la relación entre los seres humanos y la tecnología, lo cual conlleva una serie de desafíos éticos y jurídicos que es necesario abordar con urgencia. Sobre esta problemática se ocupa en su libro “Neuroderechos y Neurodelitos” el experto en derecho penal y tecnologías emergentes Carlos Christian Sueiro, quien insta a reflexionar sobre las amenazas que acompañan el desarrollo de las interfaces cerebro-computadora (ICC) y cerebro-máquina (ICM).
Sueiro explora cómo las tecnologías neurocientíficas, que permiten controlar dispositivos solo con el pensamiento, no solo revolucionarán sectores como la educación, el transporte y el entretenimiento, sino que también plantean interrogantes perentorios sobre la protección de la privacidad mental y la integridad del ser humano. El autor destaca el surgimiento de neuroderechos, como el derecho a la neuroprivacidad, a la integridad mental y al acceso equitativo a tecnologías cognitivas avanzadas, los cuales serán fundamentales en esta nueva era.
También desarrolla el concepto de neurodelitos, conductas que podrían vulnerar estos nuevos derechos a través de medios tecnológicos avanzados. Entre los delitos potenciales que menciona se encuentran el acceso ilegítimo a la mente, el neuroterrorismo, y la neuroprivación de la libertad cognitiva, cuestionando la capacidad de los sistemas legales actuales para hacer frente a este tipo de amenazas. En una entrevista con La Prensa, analizó en profundidad los aspectos destacados de estos desarrollos que ya son una realidad.
– ¿Cuándo comienza a ocuparse de los neuroderechos y neurodelitos como una cuestión central?
– Fue en 2017. Soy docente, profesor adjunto de la Facultad de Derecho de la Universidad de Buenos Aires, y me desempeño en el área del derecho penal. También tengo una materia específica de criminalidad informática. En 2017 fui a una conferencia sobre criminalidad informática dentro de la Facultad, en la que disertó el profesor Roberto Andorno, que es argentino pero está radicado en Suiza. Para aquella fecha él trabajaba para la Universidad de Basilea y presentó el fenómeno de los neuroderechos. Él venía trabajando como abogado y quedó pasmado, por así decirlo, por los avances que se daban en neurociencia, en el campo de la medicina y el tratamiento del sueño.
Andorno exhibió en 2017, en el salón Azul de la Facultad de Derecho, y contó que en los estudios de apnea, aquellos que se solicitan al hacer tratamientos que tienen que ver con el sueño, se les preguntó a determinados pacientes si otorgaban permiso a la universidad para que mientras les hacían el estudio pudieran monitorear sus ondas cerebrales (las cinco ondas que se dan: alfa, delta, theta y gamma). Las que se dan en el sueño que son la delta, que es cuando uno está profundamente dormido, y theta, cuando se dan estados de inconsciencia que pueden tener que ver con el sueño profundo o con periodos de movimiento ocular rápido. Lo que hicieron fue grabar, captar de las ondas cerebrales, y transmitirlas a lo que sería un monitor y poder ver en baja resolución los sueños. Es decir, lo que las personas soñaban. Grabar el sueño.
– Convertían esas ondas en imágenes…
– Podían digitalizarlo y ver visualmente. Es decir, si yo estaba soñando que estaba en una piscina y había un elefante, que en su trompa tenía un globo, lo que se iba a visualizar en pantalla era cómo me representé yo esa piscina, ese elefante y ese globo en baja resolución. Cuando terminó el estudio, a las personas que prestaron consentimiento luego de haber sido grabadas se les exhibió su sueño. Y, al visualizarlo, quedaron sorprendidas porque era lo que habían soñado. Hay otros estudios, esto yo lo escuché de parte de él, y ahí empecé a ahondar en el tema. Así hallé otro estudio de la universidad de Stanford, en los EE.UU. donde ya en 2012 interpretaron estas ondas cerebrales y las llevaron a programas de audiovisual para transformar en imagen, pero era baja resolución. Se siguió avanzando en esto y vi que se estaban desarrollando los proyectos ‘Brain’ de EE.UU., ‘Blue Brain’ de la Unión Europea, y que China avanza silenciosamente sin dar mucha información… vi que en el campo del área comercial se está tratando con interfaces cerebro-computadoras, es decir dispositivos que permiten captar las ondas cerebrales y que uno en vez de tener que realizar una acción concreta -como usar un teclado para tipear, o mover el volante si quiero girar a la derecha un auto -, se interpretan las pulsaciones de las ondas cerebrales y anticipan la señal cerebral. Esa señal cerebral permite que la interfaz que está conectada al dispositivo ejecute el acto con el solo pensamiento.
– Sería básicamente como imitar lo que hace el cerebro con el propio cuerpo.
-Exacto. En vez de enviar la pulsación eléctrica a los nervios y por el sistema nervioso central hasta la musculatura, lo que hace es interpretarla y enviarla directamente al dispositivo que uno quiere que se mueva: si quiero que se encienda el aire acondicionado, si quiero encender el televisor o si quiero que el volante de un automotor gire a la derecha, o si quiero que se active el freno y no el acelerador… Esas interfaces fueron conocidas como “interfaces neurocomputadoras invasivas”. Y la más conocida es la de Stephen Hawking, el célebre astrónomo, que tenía un chip en el cerebro, igual que otras personas que tienen discapacidad, producto de enfermedades tal vez como ELA, alzhéimer, párkinson. Pero lo cierto es que las interfaces cerebro-computadora no invasivas, aquellas que son vinchas, diademas o cascos neurales se empezaron a desarrollar de manera masiva en la década pasada, estamos hablando de la década del 2011 al 2021. Y hubo un acelerado proceso y más de tres decenas de compañías internacionales están trabajando en este desarrollo.
Y estas interfaces cerebro-computadora lo que hacen es leer el impulso cerebral y destinarlo a determinadas funciones. Por ejemplo, si quiero pilotear un dron, en vez de tener que utilizar un comando manual, utilizar directamente una interfaz cerebro- computadora. Y cuando imagino que quiero que el dron se eleve, el dron se va a elevar.
– ¿Está vinculado con el concepto de telepatía?
– Así es. De hecho, una de las empresas, con mucha lógica, le puso a su compañía ‘Ciberkinetics’, porque es telequinesis mediante procedimientos cibernéticos. Es decir, vos lo estás logrando sencillamente con “conectar” tu cerebro, conectar el impulso eléctrico mediante inteligencia artificial -que lo reinterpreta- a un dispositivo que tiene otro chip y que lo puede leer. Entonces, en vez de que vos muevas la palanca de cambios, anticipa ese movimiento, y hace que se omita que vos tengas que mandar la señal por el sistema nervioso para contraer, por ejemplo, la musculatura y mover el brazo para mover la palanca. En vez de hacer eso, automáticamente lo reinterpreta como que necesitás que se pase el cambio.
– ¿Esto está en fase de investigación o ya es una realidad?
– Ya está en desarrollo. En el campo automotriz, Mercedes Benz, BMW y Volvo ya están diseñando modelos de automóviles que, antes de ser autónomos, antes de que se conduzcan solos por inteligencia artificial, proponen una nueva generación de autos en donde el conductor no maneje mediante pedales ni un volante, sino que se siente con una interfaz cerebro-computadora que es parecido a una vincha. Esa vincha tiene tres electrodos, que no los percibís como electrodos y estéticamente son lindos. Hay un sensor que se coloca a la altura del encéfalo, atrás, y lo que te permite es mantener presión arterial y respiración estable. El piloto o la persona que va a conducir oprime una palanca, que no es una palanca de cambio sino que es para medir pulsación cardíaca y mantener el enlace eléctrico lo más fuerte posible. Lo que hace la diadema es interpretar tus movimientos, lo que vos querés hacer con el auto: avanzar, detenerte, marcha atrás.
Esto está en fase de experimentación y probablemente se empiecen a comercializar en 10 años, pero ya se presentaron en el Salón de París para que vean el prototipo. Mercedes Benz es la que va más adelantada en este punto, seguida por BMW y por Volvo (en alianza con otra compañía sueca poco conocida, que se dedica a autos de alta competición).
Otro campo de desarrollo es el pilotaje de drones. El ejército de los EE.UU. lo está haciendo para que en sus operaciones esos drones sean controlados desde tierra, mediante lo que sería control mental o interfaz cerebro computadora para reacciones más rápidas.
Conjuntamente con el pilotaje de drones, está específicamente el control en la esfera civil, que ya lo implementó China para los trenes de alta velocidad, que pueden levantar velocidades de hasta 400 o 700 kph. En esos trenes se requieren conductores que estén altamente entrenados, como si fueran pilotos de combate, y que estén atentos en todo momento. La diadema que utilizan los conductores de trenes de alta velocidad en China, registra el nivel de atención que tiene el conductor. Cuando el conductor empieza a manifestar signos de cansancio, de fatiga o proximidad a una posible situación de sueño, ese diadema automáticamente informa a la central y le hace saber al conductor que en la próxima estación va a ser reemplazado por otra persona. Sería una forma de control mental del nivel de rendimiento.
China también, en la ciudad de Huang Sun, hizo una experiencia a nivel pedagógica. Este es un tema que a nivel jurídico también debería preocupar. Porque en escuelas primarias y secundarias sometió a los alumnos, colocándoles diademas en la cabeza para ver el nivel de concentración y atención durante las clases. Estos eran monitoreados en tiempo real.
Hay otros campos de aplicación, por ejemplo los vinculados a la recreación, esparcimiento y distensión. Lo que serían videojuegos, llamados ‘neutrojuegos’, porque en vez de controlar el videojuego con un comando, con un joystick, se hace directamente con control mental, con esta diadema. Una característica particular que tienen estos juegos es que cuanto más relajado esté el jugador, cuantas más ondas alfa dispare en estado de relajación, más fácil es controlar el avatar.
Cuanto más tenso estés por intentar controlarlo, más se traba. Implica toda una técnica de relajación, lo que llevó a que otras compañías como Neuro Sky desarrollara, por ejemplo, técnicas que tienen que ver con el ‘ciber zen’, en donde vos te colocas la diadema para lograr estados de meditación. Esa es otra área de comercialización.
Una de las últimas que voy a mencionar, podría seguir ya que hay muchos campos de desarrollo, es en actividades comerciales y riesgosas, como puede ser la construcción, o por ejemplo la minería o actividades extractivas, el controlar grúas o exoesqueletos con sistemas neurales, con interfaces cerebro-computadora no invasivas, en donde en vez de exponer a una persona a ingresar a una mina puede ingresar un dispositivo robótico que vos controlás mentalmente mientras lo ves con la cámara.
-¿Qué relación existe entre estas tecnologías y el hecho de que a veces nos aparezcan en redes sociales o internet publicidades o contenidos vinculados con algo en lo que hemos pensado?
– En la actualidad la población civil no tiene ni adquirió interfaces cerebro-computadora, con lo cual nuestro cerebro no está conectado a Internet. Sin embargo, nuestras expresiones, nuestras vocalizaciones, lo que hablamos, lo que gestualizamos, nuestras fotos, sí. Entonces, lo que hace el algoritmo de inteligencia artificial es reinterpretar nuestros deseos, nuestras afinidades y perfilarnos. Por ejemplo, el otro día en una conversación con un compañero de trabajo mencionaba una situación que ocurre en África por una cuestión puntual laboral, en Burkina Faso.
Al día siguiente me empezaron a aparecer noticias de Burkina Faso y cuál era la situación del gobierno, sobre la inestabilidad y posible guerra civil allí… que a mí no me interesaba porque lo mencioné específicamente en el marco de una cuestión laboral.
Eso no es neurovigilancia. No directa. Pero a medida que utilicemos interfaces cerebro-computadora, toda nuestra actividad mental, sí va a ingresar a la nube. Y ya se habla de la ‘neurocloud’. Información neural subida a la nube. Chile en 2021 sancionó una nueva constitución que en su artículo 19 protegió los neuroderechos. O sea que es el primer país que lo regula.
– ¿El primer país del mundo?
– Sí, del mundo. Porque ellos empezaron a trabajar con Rafael Yuste, que es el director del programa Brain de los EE.UU., y cuya fundación se llama The Neurorights Foundation, que asesora a Naciones Unidas. Conjuntamente con Yuste, sus pares europeos son nuestro compatriota Roberto Andorno y Marcello Ienca, un italiano que trabajaba para la universidad de Zurich y ahora está trabajando en la Universidad de Munich en Baviera. Ellos empezaron a anticipar esto y empezaron a informarlo diciendo: Así como nosotros en la década del 2000 no imaginábamos que íbamos a aportar una microcomputadora llamada celular, hoy no imaginamos nuestra vida sin portar esta terminal móvil. Si nos la olvidamos en casa, volvemos por ella. Y no tiene la función de hablar por teléfono. En realidad, lo que hacés con el teléfono es utilizarlos como medio de pago electrónico, geolocalizar a una persona, comercializar u obtener un producto, grabar mediante audio, utilizarlo como filmadora, como cámara fotográfica y podemos seguir con las innumerables funciones que tiene… Así como nos imaginamos portar eso y en dos décadas se dio, se materializó y hoy implica toda una regulación y que a nivel de derecho penal, que es mi área, la mayor cantidad de pruebas proviene de un celular. En las próximas dos décadas la mayor cantidad de pruebas va a ser neural. Ese es el tema.
– Un tema que resulta inquietante. ¿Se está trabajando en algún proyecto para proteger esa información?
– No en Argentina. América Latina en 2022, después de ver la actitud de Chile, se despierta y el Parlamento para América Latina y el Caribe (Parlatino), sanciona una declaración de neuroderechos exhortando a los países de América Latina a regular cada país esta problemática.
La Unión Europea, a través de la declaración de Lyon, de Francia, exhorta a los países de Europa al tratamiento de una declaración de neurotecnologías. Europa está trabajando en esto, a través de Francia. Inglaterra hace exactamente lo mismo con una declaración solo para el Reino Unido. España se anticipa y en 2021 dicta la Carta de Derechos Digitales, que comprende un total de 23 capítulos donde se refieren a distintos derechos, pero lo llamativo es que el último capítulo lo destina nada más que a los neuroderechos. España lo tiene regulado, con una legislación mínima y habrá que profundizar más.
La ONU está trabajando en una declaración para la protección de los neuroderechos frente al futuro de las neurociencias. Ese sería el marco jurídico actual.
– ¿En la Argentina hay alguien que se esté ocupando del tema, además de usted que lo aborda en su libro?
– Hay una diplomatura de neuroderechos que se dicta en el NOA. Me llamó la atención gratamente cuando vi que en 2022 se puso en marcha. Abarca todo lo que es “Derecho penal y nuevas tecnologías”, pero tiene como nombre “Neuroderechos y nuevas tecnologías”.
– ¿Cuáles son en la práctica los peligros de esta pérdida de la privacidad mental?
– Mencionaré los cinco grandes neuroderechos de los que se habla desde 2020. El primero, derecho a la privacidad mental. Es decir, si yo me coloco una interfaz cerebro- computadora el problema es que es accesible ilegítimamente, hackeable. Y cuando yo hackeo, no ingreso a la memoria de una computadora, ni a la memoria del celular, tengo acceso a la mente humana del usuario.
El segundo es el derecho a la integridad mental. Por ejemplo, al utilizar una diadema se utiliza electricidad y pueden producirse neuroataques. Esto es que yo inserte, por ejemplo, sonidos subliminales por debajo de la percepción del oído humano o imágenes subliminales que están por debajo de la onda del ultravioleta o por debajo del infrarrojo.
Y de esa manera manipular la mente de otra persona sin que ésta se dé cuenta.
El tercero es el derecho la identidad o continuidad psicológica. Nuestra identidad está constituida por nuestras vivencias y cómo interpretamos esas vivencias. Si determinado evento fue alegre, fue triste, fue nostálgico, fue un acto de regocijo, si determinado gusto me produjo acidez o desagrado, o por el contrario, si ese gusto que se manifestó quiere repetirse y ha sido agradable. Hoy es posible editar recuerdos, es decir, borrar recuerdos mediante lo que se denomina optogenética e insertar recuerdos no vivenciados. Lo que se denominan recuerdos sintéticos inexistentes. Parece ciencia ficción, pero no lo es. Y hay estudios que menciono en el libro y detallo cuáles son las universidades que lo han trabajado. Esto podría implicar una manipulación de la identidad y un control de la persona.
– ¿Cuál es el cuarto neuroderecho?
– El derecho al incremento cognitivo. A futuro, una diadema interfaz cerebro-computadora te va a permitir tener manos libres, como un celular. Y así como un celular te permite mediante una aplicación traducir un idioma, una interfaz cerebro computadora te va a llevar eso a otra escala, a otro nivel. Ejemplo: alguien te habla en alemán y vos no vas a escuchar el alemán, lo vas a escuchar en castellano. Cuando vos hables en castellano, él no te va a escuchar en castellano sino en alemán. ¿Qué significa el acceso equitativo? Que si vos no tenés acceso a esa tecnología, vas a quedar totalmente retrasado. Lo que viene es un procedimiento de transhumanismo en donde tecnología y biología humana se van a compatibilizar, gradualmente, primero de manera externa y después de manera interna, como pueden ser las nanovacunas o biovacunas integradas con nanobots.
El último campo de los neuroderechos es la protección contra sesgos que tengan o sean tendientes a discriminación o algún tipo de diferenciación por género, edad o cultura. No olvidemos que estos dispositivos van a ser desarrollados por compañías privadas y van a ser desarrollados en determinados países.
Entonces probablemente la elaboración de ese sistema esté formado por el campo estadístico que maneje ese país. Así se pueden generar sesgos de discriminación por edad, por raza, por franja etaria. Lo que hay que impedir es que esos dispositivos generen por interacción diaria, que eso se torne cotidiano y uno lo naturalice. El derecho tiene que velar por constatar que ese dispositivo que se va a comercializar no tenga sesgos algorítmicos que generen actos discriminativos en una sociedad.
A partir de estos cinco neuroderechos, en la legislación penal debieran regularse mínimamente 10 neurodelitos que van potencialmente a acontecer como algo claro. Así como la interacción en Internet llevó al ciberacoso sexual de menores, al ciber hostigamiento y a la difusión de material pornográfico infantil o material de abuso sexual infantil, cuando esto ocurra van a haber figuras que van a tener que regularse porque no están previstas. Ejemplo, el hackeo mental o acceso ilegítimo a la mente, la protección contra neurolesiones o la inserción de enfermedades cognitivas o degenerativas. Un antecedente: en 2016 reabrió la embajada estadounidense en Cuba y recibió un ataque, denominado ataque sónico. Embajadores plenipotenciarios, cónsules, personal del cuerpo diplomático, muchos de ellos sufrieron lesiones en el oído interno y en el tímpano, jaquecas reiteradas, vómitos, mareos, náuseas. Eso se estudió, se replicó, y se vio que se dio en distintas embajadas estadounidenses en el mundo. Ellos creen que esto tiene que ver con lo que se denomina arma de energía dirigida, es decir una emisión de microondas o electromagnetismo, que un ser humano no lo ve, ni lo escucha pero es captado por el cerebro y genera lo que se denomina a nivel médico síndrome de microondas.
– Es lo que se ha visto que pueden provocar las antenas de telefonía celular 5G.
– Sí, hacen eso a un nivel menor. No a nivel de arma. Un arma está focalizada y direccionada a que te aturdas, a que se degenere y deforme la estructura celular… Serían neurointerferómetros.
Cuando estamos dormidos, el cerebro humano oscila de 0,5 Hz a 4 hertz, que serían las ondas delta. Cuando estamos en estado de vigilia o bajo hipnotismo o trance, mientras vamos quedándonos dormidos, que puede ser incluso en una anestesia, oscilamos entre los 4,5 hertz y los 7,5, son las ondas theta. Cuando estamos despiertos conscientes, estamos en 8 hertz, ondas alfa. Esto es en estado de relajación. Luego, al estar concentrados realizando una acción se dan las ondas beta, que van de 12 a los 30 hertz.
Y cuando la concentración es excesiva, se pueden llegar a disparar ondas denominadas gamma, que superan los 30 hertz hasta 100.
Esta es toda la actividad eléctrica del cerebro. Si yo interfiero esa actividad eléctrica, puedo reconducir el cerebro a determinados estados. Puedo llevar un estado de hipnosis, puedo llevar a un estado depresivo, puedo llevar a un estado de hiperactividad o superarlo y producir este tipo de afecciones.
-¿Esto también ya es una realidad?
-Sí. De hecho ya hay armas, que no están oficializadas, tienen nombre y son proyectos, pero hay armas, denominadas neuroarmas. Se dividen en cuatro grupos: armas mediante inducción de energía electromagnética, armas mediante microondas, armas mediante propagación de láser en espectro no audible, no visible, y armas de ultrasonido en espectros no audible, no visible. Entonces una persona o un grupo de personas podría estar siendo atacada sin que visible o audiblemente lo crean. Sin embargo, con otros mecanismos te das cuenta. De hecho, en la primera área en la que se van a comercializar será para las actividades y para los grupos antidisturbios.
-Queda claro que los desarrollos están mucho más adelantados que las iniciativas para proteger contra sus potenciales peligros. ¿Qué propuesta sugiere en su libro para estar mejor preparados?
-Hago una propuesta a futuro, tal vez de cara a una posible reforma integrada al código penal, dentro del campo del derecho penal o una ley especial, que debería contemplar los siguientes neurodelitos: el acceso ilegítimo a la mente humana, lo que sería generación de patologías, neurotrata de personas, la neurocaptación de personas para ser llevadas fuera del país y ser utilizadas sexualmente, la neuroprivación de la libertad, la neuroinstigación al suicidio, el neuroterrorismo, es decir insertar en parte de la población que utilice una interfaz cerebro-computadora, imágenes o sonidos aterradores que lleven a un estado psicótico. Entonces hago una propuesta de reforma integrada al código penal, de la parte general, de la parte especial y a nivel procesal cómo obtener prueba neural, cómo deberán los tribunales, conjuntamente con el campo de la neuromedicina, con médicos especializados en neuro medicina, si van a aprobar o no el día de mañana prueba de origen neural. Porque un testigo, cuando dice yo recuerdo tal cosa, tranquilamente podríamos visualizar todos qué es lo que visualizó.
-Pero también se podría modificar lo que él recuerda, insertar recuerdos falsos que lo incriminen en algo que no cometió o que exoneren a un culpable…
-Exactamente. Lo que sería el equivalente a un ‘deep fake’, pero neural. Una falsificación profunda a nivel neural. Así que será un tema que un imputado no pueda ser sometido a una interfaz cerebro computadora para explorar su inocencia o culpabilidad, porque mientras la Constitución protege el derecho a la privacidad y la prohibición de autoincriminación, hoy la última frontera de la privacidad ya se cruzó, que es el pensamiento. Antes no podíamos obtenerlo. Por lo tanto, tiene derecho a negarse y a que no se utilice como prueba en su contra.
-¿Algún legislador lo ha contactado con el objetivo de presentar un proyecto al respecto?
-Me encantaría, pero no. Es un tema que más pronto que tarde deberá ser tratado.
Así como tenemos otro faltante enorme en materia de legislación, a mi criterio, que es no tener contemplados los delitos de manipulación genética, que se están dando no sólo en el campo de la fertilidad, sino en el campo venidero de la quimerización y edición genética para reemplazo de órganos. Son temas pendientes extremadamente relevantes. En una sociedad que camina, por no decir que corre, a pasos agigantados, lo que antes tardaba 100 años, ahora tarda 10.
