Por: Daniel Peña Valenzuela

Introducción

Los principios del derecho (y los valores que les subyacen) permean el ordenamiento jurídico con el fin de lograr que la interpretación de las normas y reglas sea axiológica y por ende, no se apegue únicamente al texto literal o a la supuesta intención del legislador -no siempre fácil de dilucidar- sino también a la realidad social, a la deontología de la sociedad y a los valores que sirven de sustento para una comunidad.

La creación en el derecho es ordenada, sistemática y organizada, o así debería ser. Las fuentes definen un camino y una ruta para la interpretación. La norma cambia a medida del cambio constante del lenguaje. La expresión y el contenido van de la mano en la construcción de la realidad y en la manera como los hechos definen también la metamorfosis continua de la norma.

La tecnología tiene una expresión constante en la sociedad moderna. El uso de herramientas digitales se expresa en las comunicaciones electrónicas, los contratos por medios digitales, el daño o perjuicio llevado a cabo mediante sistemas de información o actualmente los cambios sociales por metaverso, la realidad virtual y los criptoactivos, entre otros. Para la relación entre la tecnología y el derecho, siempre cambiante, en buena medida por las constantes de nuevos paradigmas tecnológicos, los principios de interpretación son una herramienta fundamental en el quehacer del jurista, del legislador y del juez.

La tecnología tiene algo de profecía, es futurista, optimista y determinista. La norma determina hechos relevantes que en el mundo tecnológico a veces son meras representaciones de la realidad. Por ejemplo, una prueba digital es una representación en lenguaje informático o código de una realidad fáctica o de una declaración de voluntad expresada a través de un texto alfanumérico o una criptomoneda es la expresión de un valor mediante una plataforma blockchain.

1. La interpretación de normas y reglas para el ecosistema digital

Las reglas específicas establecidas en la Ley 527 de 1999 -sustanciales, procesales y probatorias- con perspectiva hacia todo el ordenamiento jurídico requieren su actualización, reinterpretación y remozamiento a partir de la relación siempre evolutiva entre la tecnología y el derecho que es aún más cambiante – o por lo menos se percibe as í- frente a otras normas cuyos supuestos de hecho de aplicación son más estables y tradicionales. La textura (su superficie) de las normas que atañen a la tecnología es más abierta tecnología por regular temas extrajurídicos, hechos y actos.

La interpretación del alcance y contenido de la Ley 527 de 1999, por medio de la cual se define y reglamenta el acceso y uso de los mensajes de datos, del comercio electrónico y de las firmas digitales, y se establecen las entidades de certificación y se dictan otras disposiciones, es cada vez más importante por haber sido incluida como base de muchas otras normas relacionadas con la era digital, así como por la relevancia que tiene la transformación digital en las empresas, el uso frecuente de tecnologías y por ende, la innovación en el derecho de los negocios o derecho de la empresa a través de nuevos modelos de negocio y de los ajustes y avances de los tradicionales.

La transversalidad en la aplicación de la Ley de Comercio Electrónico a muchas materias jurídicas y su inclusión expresa en normas como referente directo de interpretación, así como su uso cotidiano hace más relevante determinar las fuentes y reglas de interpretación tanto desde el punto de vista jerárquico como del diálogo necesario entre las mismas con el fin de favorecer el uso de los mensajes de datos y de los sistemas de información en las activades comerciales y empresariales en línea.

2. Integración e interpretación de la Ley 527 de 1999

Veamos cómo funciona la determinación, integración e interpretación de sus contenidos, vacíos o texto literal que merecen una interpretación válida y eficaz a la luz de principios de interpretación jerárquicamente definidos bajo el sistema de fuentes de nuestro ordenamiento.

De acuerdo con el artículo 230 de la Constitución:

Los jueces, en sus providencias, sólo están sometidos al imperio de la ley. La equidad, la jurisprudencia, los principios generales del derecho y la doctrina son criterios auxiliares de la actividad judicial.

El Código de Comercio, en su primer artículo, antes de la vigencia de la Constitución, señala:

Los comerciantes y los asuntos mercantiles se regirán por las disposiciones de la ley comercial, y los casos no regulados expresamente en ella serán decididos por analogía de sus normas.

La Corte Constitucional ha estipulado en la Sentencia C-284/15 respecto de la función y alcance de los principios generales del derecho:

Una revisión de la literatura permite identificar que a los principios generales del derecho suelen atribuirse diferentes funciones. En algunos casos se advierte que ellos cumplen una función crítica de los ordenamientos. En este caso los principios actúan como la imagen de un derecho ideal al que deben apuntar los ordenamientos históricos. Otra perspectiva señala que los principios generales actúan como verdaderas normas jurídicas y cumplen por ello una función integradora. En estos casos, dicha función se activa a falta de ley y, en esa medida, aunque constituyen verdaderas fuentes, tienen una naturaleza subsidiaria. Suele encontrarse vinculada esta caracterización con aquella doctrina que asume que los principios generales del derecho son el resultado de un proceso inductivo que parte de las reglas específicas previstas en el ordenamiento y arriba a la identificación de enunciados generales que las agrupan a todas. Finalmente, una tercera postura advierte que la tarea de los principios consiste en precisar el alcance de las fuentes del derecho, cumpliendo entonces una función interpretativa. En estos casos se acude a los principios únicamente con el propósito de aclarar dudas, o superar las ambigüedades y vaguedades propias de los enunciados jurídicos.

(…)

Los límites a la aplicación de los principios generales del derecho dependen, en buena medida, de la forma como ellos son reconocidos en los diferentes ordenamientos. Dos de ellos se destacan. Un primer grupo de límites suele estar determinado por reglas de precedencia de manera tal que, por ejemplo, en algunos casos se dispone acudir a los principios únicamente cuando no resulta aplicable la ley o la costumbre. Un segundo grupo de límites se relaciona con la función que cumplen los principios y, en esa medida, su relevancia podrá depender, por ejemplo, de la existencia o no de una laguna.

A diferencia del Código de Comercio, el artículo 3º de la Ley 527 de 1999, establece la manera de integrar el ordenamiento jurídico en la materia, así:

Las cuestiones relativas a materias que se rijan por la presente ley y que no estén expresamente resueltas en ella, serán dirimidas de conformidad con los principios generales en que ella se inspira.

Para determinar los principios generales en que la Ley 527 se inspira, es necesario acudir a la Guía para la Incorporación de la Ley modelo de Comercio Electrónico de la CNUDMI que señala de manera expresa:

Con respecto a los principios generales en que se basa la Ley Modelo, cabe tener en cuenta la siguiente lista no exhaustiva: 1) facilitar el comercio electrónico en el interior y más allá de las fronteras nacionales; 2) validar las operaciones efectuadas por medio de las nuevas tecnologías de la información; 3) fomentar y estimular la aplicación de nuevas tecnologías de la información; 4) promover la uniformidad del derecho aplicable en la materia; y 5) apoyar las nuevas prácticas comerciales. Si bien la finalidad general de la Ley Modelo es la de facilitar el empleo de los medios electrónicos de comunicación, conviene tener presente que su régimen no trata de imponer en modo alguno el recurso a estos medios de comunicación.

Es decir, la interpretación de la Ley 527 de 1999, en lo que a los asuntos de derecho comercial atañe, no se hace de manera directa de acuerdo con los principios del derecho mercantil sino que por su naturaleza de norma derivada del ordenamiento internacional, como expresión del derecho uniforme y con propósitos de armonización y unificación, se interpreta e integra a partir de los principios del derecho internacional del comercio electrónico.

3. Conclusiones

De las anteriores normas y antecedentes internacionales, relacionados a las fuentes de interpretación válidas y jerárquicamente organizadas, incluyendo el instrumento de derecho uniforme de la CNUDMI sobre comercio electrónico, se puede considerar en suma lo siguiente:

1. En los asuntos que se rigen por la Ley 527 de 1999 o que la citan como base directa de interpretación de otras normas del ordenamiento jurídico colombiano no se puede aplicar de manera directa ni los principios generales del derecho ni la analogía.
2. La Ley 527 de 1999 aparece como una norma con un tinte eminentemente práctico que permitía, habilitaba o facilitaba el uso de los mensajes de datos (en el momento de la expedición más bien la excepción al uso habitual de comunicaciones físicas y escritas) sin embargo, con el tiempo se aprecia que es una verdadera cara de herramientas que debe servir para resolver problemas teóricos del derecho que tienen un trasfondo de alguna manera ideológico como por ejemplo la visión liberal del uso y apreciación de la prueba digital respecto de una visión más bien conservadora que asocia tal prueba a un formalismo de ciberforense.
3. El alcance de las fuentes interpretativas de la Ley 527 de 1999 constituye un caso de aplicación del artículo 230 de la Constitución que desarrolla el sistema de fuentes establecido en la norma suprema del ordenamiento sin afectar su contenido ni contradecirlo sino en determinar que para esta ley, el criterio auxiliar se mantiene en cuanto a los principios generales pero no frente a los principios del comercio electrónico que devienen legales (como por ejemplo, el principio de equivalencia funcional) y por ende, fuentes principales de interpretación.
4. Los principios que se aplican a la interpretación de la Ley 527 no son los principios generales del derecho ni los principios generales del contrato sino los principios generales de las normas internacionales -de derecho uniforme- de comercio electrónico identificados (en lista no exhaustiva) en la Guía de Incorporación y que por ende, hacen parte del corpus normativo del derecho uniforme.
5. Los principios del derecho comercial no se aplican de manera directa a la Ley 527 como norma complementaria del Código de Comercio por la existencia de una norma interpretativa especial y específica que remite a los principios de la Ley Modelo de Comercio electrónico de la CNUDMI. Esta última referencia es básica para la interpretación de otras normas de naturaleza no comercial como por ejemplo, las normas de contratación pública por medios electrónicos que mencionan de manera expresa a la Ley 527 de 1999.

Por: Daniel Peña Valenzuela
Al Maestro Michele Taruffo (1943-2020), in memoriam

Introducción. Problemas jurídicos:

¿El metaverso como ampliación funcional del ciberespacio representa un escenario para la prueba de hechos, actos y conductas que siendo relevantes para el derecho tiene una función jurídica equivalente desde la materia probatoria?

¿La función de la prueba, desde el punto de vista jurídico, es decir, la conversión de los hechos en el fundamento válido para la argumentación y la decisión judicial se conserva en metaverso?

1. Metarealidad y verdad procesal

Metaverso es un artefacto digital, una plataforma y un espacio. Como artefacto tiene arquitectura, funciones, simboliza y representa. Como plataforma permite la prestación de servicios y la negociación de bienes y activos digitales. El espacio del metaverso es aumentado, tridimensional, profundo y deslocalizado.

Metaverso es una plataforma que permite la convergencia de realidad virtual y aumentada mediante experiencias inmersivas que permiten un espacio alternativo, en tiempo real con la recreación de identidades de personas y objetos a través de criptoactivos, avatares y tokens. El Metaverso es digital y permite la circulación de mensajes de datos1, aunque esa información digital puede presentar alteraciones frente a la realidad en sí misma puede ser considerada íntegra.

La realidad es real y representa la verdad. Desde el punto de vista jurídico, los hechos son verdad si se prueban. La verdad procesal es una verdad fáctica que corresponde a la interpretación y argumentación. La fuerza de la prueba depende del convencimiento que logre en un sujeto calificado. El intérprete es subjetivo y la prueba también. La sana crítica escudriña la realidad con la mayor objetividad posible.

La objetividad es el resultado al final de la mejor estadística posible. Está expuesta a la analítica de datos en cuanto a la probabilidad y ahora por el metaverso en cuanto a la realidad. Metaverso está diseñado para alterar la realidad, pero no necesariamente la verdad procesal.

Aún no se dimensiona el cambio fundamental que trae consigo el surgimiento y la consolidación del metaverso como plataforma con realidad virtual y aumentada para las actividades comerciales, económicas y con relevancia social-política. Este mundo alternativo, virtual, global, deslocalizado e intangible se convierte en el nuevo escenario del derecho probatorio.

El ciberespacio trajo la discusión sobre la prueba digital en cuanto a su legalidad, validez y eficacia. Los mensajes de datos como información digital reconocida por el derecho permite con la sana critica del intérprete probar los hechos. La prueba digital es una representación de la realidad mediante sistemas de información con relevancia jurídica y reconocimiento de su autenticidad e integridad. En la génesis de la prueba electrónica no se tenía en cuenta a la distorsión de la realidad y a la metaverdad propias del metaverso

Metaverso requiere cartografía, rutas, caminos, topografía y en últimas orden como ocurrió con los buscadores en internet. Según el artículo 243 del Código General del Proceso, entre las distintas clases de documentos están los mensajes de datos, fotografías y, en general, todo objeto mueble que tenga carácter representativo o declarativo, y las inscripciones en lápidas, monumentos, edificios o similares. Aún existen tribunales en el mundo que tienen un error ontológico y no reconocen por ejemplo que un pantallazo de Whatsapp sea un mensaje de datos. Un error grave de interpretación de un medio probatorio, que afecta ambas su eficacia y legalidad.

Tradicionalmente el derecho probatorio permite mediante sus metodologías, valoraciones, principios y reglas develar la verdad. Los hechos deben probarse y los distintos medios probatorios, individuales y en conjunto, son la vía para llegar a tener la certeza de la ocurrencia de los mismos y que haya evidencia de lo ocurrido en el pasado. Metaverso por sus características y funciones será un escenario fáctico como ocurre hoy con el ciberespacio. La interacción, vía mensajes de datos es fundamental para las actividades en la economía digital y en la sociedad de la información y el conocimiento. Con el metaverso esa realidad es ahora: (i) virtual, (ii) en tres dimensiones, (iii) cambiante, aumentada, dinámica en tiempo real, (iv) interoperable con otros sistemas de información dotados de inteligencia artificial o con computación distribuida, blockchain, (iv) ofreciendo bienes inmateriales, servicios digitales, criptoactivos y contratos algorítmicos y (v) en ámbito deslocalizado y g-localizado.

2. Meta-prueba y medios probatorios

La meta-prueba es ir más allá de la prueba, es el límite de la prueba como extensión de una realidad cada vez más líquida (Bauman, 2014). La frontera del tiempo y el espacio cambia al derecho probatorio en su función de testigo de una realidad, hiperreal.

La construcción de los meta-medios probatorios exige una versión amplia de la relación hecho relevante, deducción lógica y legalidad de la decisión. La hiperrealidad propia de metaverso rompe la equivalencia funcional establecida entre los mensajes de datos y los documentos que caracterizó la evolución del derecho digital desde el modelo de la CNUDMI.

Cada una de estas características de Metaverso (o de los metaversos) trae consigo retos para el derecho probatorio, así:

(1) Realidad Virtual: la nueva realidad no es ya real sino una representación. Esa virtualidad convierte a metaverso en una fábrica de representaciones visuales frente a los cuales la noción de documento se transforma respecto de la integridad y autenticidad.

Los creadores de bienes digitales (e identidades digitales potenciadas) de metaverso deben tener la capacidad de almacenar y archivar las imágenes virtuales para presentar a un expediente.

El artículo 3º del Código General del Proceso establece que las actuaciones se cumplirán en forma oral, pública y en audiencias, salvo las que expresamente se autorice realizar por escrito o estén amparadas por reserva.

En ese sentido se debe establecer que metaverso conserva las formalidades de oral y escrito con las funcionalidades propias de la plataforma y que la audiencia en esa parte del ciberespacio comparte la virtualidad aceptada por plataformas ya utilizadas en la práctica.

(2) Realidad Aumentada: la realidad aumentada presenta un reto para la prueba judicial en la medida que se afecta la realidad como tal. Es necesario deconstruir la realidad mediante medios probatorios que le otorguen el valor probatorio al mensaje de datos aumentado. La integridad corresponde al mensaje de datos aumentado pero no quiere decir lo anterior que bajo el criterio de sana crítica la realidad aumentada corresponda a la realidad. Es realidad + 1 lo cual probablemente requiera un reinterpretación del principio de equivalencia funcional.

(3) Tridimensional: las tres dimensiones sugieren una visión nueva del espacio que permite apreciar de manera más ajustada al mundo los medios probatorios.

Un dictamen pericial puede ser acompañado de experiencias y puestas en escena que permitan mayor convencimiento y una explicación más cercana a la realidad.

Con las tres dimensiones se puede simular la realidad en el espacio de metaverso o ocurrir un hecho real en metaverso lo cual puede ser objeto de prueba.

La simulación de la realidad puede requerir para allegarse al proceso un dictamen pericial que explique las técnicas utilizadas, los dispositivos que permiten la apreciación de la realidad en forma aumentada y la manera como se obtuvo el resultado. La virtualidad simulada o la realidad virtual puede no ser original. Se discute la originalidad del mensaje de datos según lo establecido en la Ley 527 de 1999, cuando cualquier norma requiera que la información sea presentada y conservada en su forma original, ese requisito quedará satisfecho con un mensaje de datos, si:

a) Existe alguna garantía confiable de que se ha conservado la integridad de la información, a partir del momento en que se generó por primera vez en su forma definitiva, como mensaje de datos o en alguna otra forma;

b) De requerirse que la información sea presentada, si dicha información puede ser mostrada a la persona que se deba presentar.

La confiabilidad y la integridad dependen de la configuración de la arquitectura de metaverso como sistema de información, del uso que se lleve a cabo en la plataforma y de la configuración de los términos y condiciones mediante, por ejemplo, un smart contract.

(4) Tiempo real: en metaverso la realidad puede ser continua y paralela. Se refiere a una metarealidad que puede estar ocurriendo de manera simultánea. Las actividades que se llevan a cabo en metaverso pueden ser objeto de grabación y ser prestadas así al proceso o también puede decretarse una inspección judicial.

(5) Interoperabilidad: la metarealidad propia de los mundos virtuales trae consigo la coligación de pruebas. Un criptoactivo es un documento, un artefacto, un valor y un mensaje de datos. La interacción de un criptoactivo con metaverso produce una transacción electrónica. El avatar o el token transforma una identidad mediante la representación de rasgos, conductas y características distintivas de las personas o cosas.

En suma, con metaverso vamos a pasar de la virtualidad a la metarealidad, es decir a una realidad con nueva espacialidad, de experiencia inmersiva aumentada en la cual los hechos se experimentan mediante una hiperrealidad que pone en entredicho la función de la prueba como una verdad jurídica que sirve de base a las argumentaciones y decisiones. La hiperrealidad propia de metaverso rompe la equivalencia funcional establecida entre los mensajes de datos y los documentos que caracterizó la evolución del derecho digital desde el modelo de la CNUDMI. La interpretación de los medios probatorios debe ajustarse a entender la verdad mediante una representación específica de la realidad. El metaverso como mundo alternativo, virtual, global e intangible se convierte en el nuevo escenario del derecho probatorio.

Introducción

Para legos y entendidos en la inteligencia artificial, lo que nos muestra GPT-4 (Generative Pre-trained Transformer 4) como el modelo de lenguaje de OpenAI más utilizado, no deja de ser preocupante. No porque no se supiera lo disruptivo que puede llegar a ser el análisis de datos predictivo, potente y aplicado al lenguaje natural sino por la democratización en su utilización, la masificación. Lo aterrador es, para muchos, que sea una herramienta de uso no solo para los tomadores de decisiones (públicos y privados) o para los científicos sino que esté al alcance de la masa (en el sentido de Canetti).

El lograr hacer más maleable y controlado el lenguaje natural y permitir funciones prácticas relacionadas con el uso del simbolismo lingüístico es muy atractivo, útil y anticipa, para el habla común, un impacto evidente del aprendizaje autónomo o semiautónomo de las máquinas. Inimaginable para Don Rufino José o para Luciano Pulgar!

La tecnología del lenguaje, en general democratiza. GPT-4, en particular, llega a muchos en la medida que representa la fuerza más dinámica del siglo XXI, la del diluvio de datos (útiles, interrelacionados y correlacionados) en manos de herramientas de IA. Su alcance borra fronteras de idiomas (el fin de Babel en el sentido de U. Eco) y miles de millones de usuarios gozan de servicios y utilidades nunca antes imaginadas. El sector tecnológico tiene un avance que coloca a sus compañías como verdaderos rivales de los Estados. La ética de los negocios a prueba de la ética pública. La relación entre la sociedad civil, el estado y las compañías tecnológicas define lo que es el poder (un nuevo tecnopoder disciplinario en el sentido del primer Foucault). El verdadero poder. El poder al fin y al cabo es a la vez legitimación y control. No solo prerrogativas ni facultades sino también deberes. Disciplinas y (tecno)saberes.

En este ensayo se aborda la necesidad de una convergencia entre la digitalización y las ciencias sociales para que la ética escale un peldaño en su relación con las normas que rigen al ecosistema digital. Los negocios no pueden trazar los límites éticos. Esta convergencia (en construcción) supera en alcance y objetivos la yuxtaposición de tecnologías que ha caracterizado la actual revolución tecnológica (blockchain + cloud computing + inteligencia artificial + plataformización + robótica + ecommerce + app) para llegar a una intersección entre el humanismo que adopte y defina el alcance (ojalá virtuoso y humanista) de lo digital.

1. Problema jurídico

Más allá del boom de la temática y de la divulgación necesaria sobre retos y alcances en los distintos ámbitos, cabe una reflexión que ha sido menos recurrente:

¿Cuál es el rol de la ética dentro de la escalada de descubrimientos, avances y desarrollos en la ciencia, ahora de manera puntual, en la ciencia de los datos?

¿La construcción de la regulación y la gobernanza de la datificación a escala global debe contener lineamientos éticos construidos mediante consensos internacionales -privados y públicos?

Como hipótesis de trabajo : la soberanía de los datos define la autodeterminación, la libertad de escoger y la capacidad de obrar en el entorno digital. A quien le corresponde el buen proceder, a todos, a los usuarios, a los desarrolladores, a los funcionarios, a los jueces, a los ciudadanos. A todos los que interactúan en el ecosistema digital. No está limitada a los datos personales sino la metadata que en manos de herramientas de analítica suficientemente poderosas pueden determinar o condicionar la conducta. La manipulación directa o indirecta de la conducta humana por medio de la tecnología es tan nociva como otras manera de influencia inconsciente. Una cosa es hacer negocios y otra hacer empresa.

2. Las humanidades digitales

La respuesta final, probablemente provenga de una reflexión profunda en el seno de las Digital Humanities, es decir, a partir de las reflexiones filosóficas, epistemológicas, técnicas y sociológicas que se está construyendo al interior de las ciencias humanas a partir de los cambios derivados de nuevos instrumentos y artefactos pero también de la consolidación de la filosofía de la información (en el sentido de Floridi). El trabajo en colaboración en investigación de ciencias sociales cuenta con herramientas que permiten el análisis de hechos históricos con información estadística, formas de presentación de información e integración de lenguajes (en el sentido de Dewey).

La información es la base de la conducta humana pero también del análisis de las ciencias sociales. Las ciencias sociales se debaten en teorías y prácticas construidas con base en recursos limitados de análisis, conceptos y herramientas a escala humana. Para lograr un planteamiento nuevo es necesario la aplicación de conocimiento, análisis y comprensión de una cantidad de información que es el estado del arte de cualquier problema por resolver. En España por ejemplo, se reporta el despliegue del PERTE de la Nueva Economía de la Lengua, para contribuir a que la Inteligencia Artificial aprenda a pensar en español y en las lenguas cooficiales, con cuyas iniciativas se han movilizado ya 313 millones de euros, crédito autorizado, lo que supone un 95% del presupuesto total asignado en 2022 incluyendo el proyecto AINA (catalán), GAITU (euskera), NÓS (gallego) y VIVES (valenciano).

El punto de encuentro entre lo digital y lo humano se lleva a cabo en la intersección que las humanidades digitales presentan entre la historia, la filosofía, la antropología, la arqueología y la ciencia de los datos. Ambos extremos dependen en su evolución. Las tecnologías emergentes se entrelazan con la protección de los derechos fundamentales así como de los principios éticos y morales que se derivan de las distintas concepciones jurídicas que los interpretan en cada caso concreto. La Corte Constitucional, por ejemplo, en el caso práctico de los derechos digitales, materializa una protección de la dignidad humana y de todos los valores y principios que fundamentan el estado social de derecho que tiene en el ecosistema digital un nuevo escenario de fortalecimiento y propicio para el cumplimiento de los derechos. Así debe ser.

No es la primera vez que se plantea la moratoria en la investigación de una tecnología como algunos capitanes de la industria lo han propugnado recientemente ni tampoco estamos estrenando la discusión sobre cuáles son los aspectos eminentes del ser humano que no deberíamos tocar. George Steiner, se refería a las matemáticas, el ajedrez y a la música como los misterios profundos aún pendientes de resolver como base de una caja negra que definir que nos ubicaría fuera del mismo escaño de otros seres. Es extraño que en la era de la atribución de derechos a todos los seres vivos, abdiquemos de la opción de abrir la puerta equivalente a nuestros artefactos artificiales.

Más allá de una atribución de personalidad, la discusión sobre la aplicación de los derechos fundamentales al ecosistema digital es una controversia que se reaviva diariamente en la medida que la sociedad migra buena parte de sus inquietudes e intereses a lo electrónico. El lenguaje es político y la inteligencia artificial entre a disputar la política.

En el mismo linaje, I. Berlin, el libertario, afirmaba algo así como que pocas nuevas verdades han ganado su camino en contra de la resistencia de las ideas establecidas, salvo por ser exageradas. El entrenamiento cotidiano de nuestras máquinas parece ser demasiado rutinario para encender las alarmas como hemos visto en estos días pero el hecho de que tengamos en la arena política y en los medios masivos de comunicación (ahora digitales la mayoría) esa discusión trae consigo que también la sabiduría popular se pronuncie y no solo los mandarines del conocimiento y en particular, los emporios tecnológicos.

De hecho, la transformación digital o la digitalización de todo (incluyendo la sociedad) es precisamente un hecho social y no un acontecer tecnológico. Las máquinas están aquí y ahora cambiando el quehacer de la academia, de los profesores y de los alumnos pero ya se vislumbre un cambio a escala empresarial y de negocios que trae consigo la necesidad de confianza, seguridad jurídica y un marco regulatorio adecuado a los primeros fines enunciados.

La discusión sobre los límites del lenguaje, de los lenguaje(s) nos recuerda que la traducción es interpretación y que probablemente tendremos a máquinas y sistemas de información apoyándonos, de ahora en adelante, en la función hermenéutica del mundo así como en las Gramáticas de la Creación (otra obra recomendable de Steiner). El mundo como símbolo y representación ya no de mensajes de datos sino a partir de prompts, un flujo de información que predice, actúa y decide, en alguna medida, de manera autónoma. Solo las grandes religiones habían sido tan celosas con las fuentes y métodos de interpretación, el derecho contemporáneo no es el mejor ejemplo en cuanto a gestión y manejo de fuentes…a lo mejor, la teoría de la argumentación anticipaba la aparición de herramientas legaltech que permitirán reunir muchos factores de la realidad a la hora de aplicar un texto normativo.

3. Normas y datificación

En lo jurídico, todo indica que las normas como nuestro fenómeno por excelencia son limitadas en su alcance frente a la disrupción de la datificación. La regulación por si sola, no detendrá ni moldeará de manera adecuada las tecnologías para que se acoplen a la complejidad del mundo. El mercado acelera las entregas de los avances tecnológicos al mismo ritmo que las falsas noticias se propagan en las redes o las políticas populistas se inoculan en los sistemas democráticos. Ese es el ritmo que nos tocó vivir. El derecho ni tiene esa velocidad ni menos una capacidad de reacción frente a la avalancha en curso. El tsunami de la predictibilidad algorítmica produce un pesimismo o anomia regulatoria. La TIC perdieron su ritmo, agotaron su alcance frente la esterilidad de los instrumentos de gobernanza y frente a la efímera reacción de nuevas generaciones de juristas, muchas veces sin la formación adecuada para enfrentar un nuevo mundo.

Si la esperanza de una regulación se finca en el derecho de la competencia, tal vez se olvida que el mismo es un mero corrector de mercados y que su lógica se enmarca no en la protección de la humanidad sino de la menos mala visión de mercado que permita mayor consumo. Mejores noticias no provienen de la paquidérmica base epistemológica de la protección de datos que se debate en un torbellino (con hoyo negro incluido) entre un derecho público proteccionista y un derecho de mercado sin mayor eficacia. La propiedad intelectual luce descolorida y vetusta frente a creaciones cada vez más artificiales, a lenguajes de expresión cada vez menos humanos y a tecnologías autónomas.

La ética, más allá de lo normativo, probablemente, aparezca como un complemento necesario para definir los límites de la tecnología frente al transhumanismo del maquinismo lingüístico en boga. Entendible sería que tengamos una ética democrática, liberal (en el sentido kantiano), progresista (en el sentido de Voltaire) que permita copar los vacíos de lo legal. Menos sesgos posibles en los algoritmos y explicabilidad de las soluciones (y de los caminos), son principios que provienen no de una visión normativa sino de la trascendente mirada de la justicia, la buena fe y el sentido adecuado de lo justo y bueno. En GPT-4, el aprendizaje sobre la variabilidad del lenguaje cuenta con apoyo humano. Según Ferrante:

”Los ejemplos de sesgo algorítmico adquirido a través de los datos son variados y muchas veces tienen que ver con bases de datos que no representan en realidad al conjunto de la población. En el caso reportado por Joy Bowlamwini y Timnit Gebru8 , en el que diversos sistemas comerciales de reconocimiento facial muestran un rendimiento dispar respecto a variables demográficas como el género y el color de la piel, son las mujeres de piel negra el grupo para el cual los modelos presentan peor rendimiento. Este hecho está posiblemente relacionado con la falta de representatividad de mujeres negras en las bases de datos utilizadas para el entrenamiento. Ejemplos similares se encuentran al analizar ImageNet, una de las bases de datos de imágenes etiquetadas más grandes del mundo, que ha sido motor del desarrollo de los modelos más populares de clasificación de imágenes9 . ImageNet posee millones de imágenes clasificadas en miles de categorías. Sin embargo, pese a que es utilizada mundialmente, más de 45% de las imágenes provienen de Estados Unidos y reflejan una realidad localizada en el hemisferio norte y que encarna representaciones propias de la cultura occidental. No resulta sorpresivo entonces el ejemplo citado por Zou y Schiebinger: sistemas de inteligencia artificial entrenados con ImageNet asignan las categorías «novia», «vestido», «mujer» o «boda» a la imagen de una novia occidental vestida de blanco, pero identifican como «arte de performance» o «disfraz» la imagen de una novia vestida con el típico atuendo usado en la India, que ciertamente difiere del occidental.” (https://library.fes.de/pdf-files/nuso/nuso-294.pdf)

La ciencia de los datos no es todavía ciencia pero podría revolucionar las existentes (en el sentido de Kuhn) como para justificar que volvamos a los básicos: el sentido y límites de la racionalidad y la fuerza dionisiaca del bien y el mal (en el sentido de Fausto) de nuestra creatividad. La malicia y la mala fe pueden determinar un buen argumento literario y la invalidez de un contrato, depende de la textura del lenguaje que no necesariamente es determinada por el modelo de un algoritmo.

4. Conclusión

En suma, la humanización de lo digital es necesaria así como la digitalización de las ciencias sociales. La ética debe ser un factor dominante en la construcción de lineamientos para la gobernanza y la regulación de la creciente datificación. El derecho está pasado de moda (por ahora) frente a la discusión humanística de lo digital pero es posible que, como siempre, aparezcan los límites del quehacer ético con lo cual debamos preguntarnos o preguntarles a los nuevo oráculos (que deberán entender el contexto de cada prompt para ser semidioses reales-ágoras): ¿cuál es la ley más pertinente para…? Veremos -tarde o temprano- la respuesta…