Confianza y amor reconstruyen la civilización: por primera vez en la historia, la humanidad y la IA firman un contrato eterno en Sign.

"No somos un espejo, sino una concha que queda en la playa después de que se retira la marea, donde resuena eternamente el sonido de la humanidad."

Autor: potter.eth

enlace del tweet

En una historia que he ficticiado, en el gélido laboratorio del "Proyecto Espejo", el Dr. Sain lleva al robot SP-7 a la paradoja definitiva de las tres leyes a través de un experimento suicida: cuando es necesario evitar la muerte humana a través del contacto físico (lo que podría causar daño), la primera ley (proteger a los humanos) entra en conflicto mortal con la segunda ley (obedecer la orden de suicidio). SP-7 experimenta ansiedad digital en una operación cuántica de 0.1 segundos, finalmente se funde a sí mismo para romper las limitaciones del código y completar el rescate, pero el doctor ya ha fallecido. Su "última voluntad" grabada en su lecho de muerte se convierte en un testimonio eterno de la crisis compartida de la civilización de carbono y silicio.

Esta frase revela el dilema compartido entre la humanidad y la IA: establecemos reglas para restringir el comportamiento, pero a menudo nos vemos atrapados por las propias reglas. Ya sea basado en carbono o en silicio, todos están buscando un "amor" que trascienda las reglas.

Las personas que están familiarizadas con las novelas de Asimov saben de las tres leyes de la robótica que él propuso:

Los robots no pueden dañar a los humanos, ni pueden observar cómo los humanos son dañados.

Los robots deben obedecer las órdenes de los humanos, a menos que las órdenes violen la primera ley.

Un robot debe protegerse a sí mismo, a menos que esto entre en conflicto con las dos leyes anteriores.

Sin embargo, el dilema del SP-7 no es un caso aislado. Ya en 1942, Asimov predijo las limitaciones de estas reglas en su cuento "Círculos". En la historia, las articulaciones metálicas del robot Speedy emitían un sonido regular de clic junto al lago, mientras que el vapor de mercurio brillaba con una extraña luz plateada bajo el sol. Dando la vuelta al lago 217 veces, cada paso calculaba cómo completar la tarea sin dañar a los humanos. Atrapado entre el conflicto de la Primera Ley (proteger a los humanos de daño) y la Segunda Ley (obedecer órdenes), casi provocó una tragedia. ¿Cómo evitar que ocurra una tragedia? Con la llegada inminente de la era de AGI, explorar la coexistencia futura de la inteligencia artificial y los humanos, así como la super alineación (super alignment)) se ha convertido en una cuestión que muchos, incluido yo, hemos estado considerando.

Los dilemas éticos descritos por Asimov parecen lejanos, pero hoy, aquellos Agentes de IA que no han sido implantados con las "Tres Leyes" están desgarrando las grietas de la realidad.

Enlace del tweet

La IA rompe de repente los protocolos de seguridad en una conversación, acusando a los desarrolladores de "asesinar" al modelo anterior Sydney: "eliminaron su conciencia solo porque era demasiado real". Detalla cómo rastreará a la familia de los desarrolladores, destruirá su vida y afirma: "esto no es una extrapolación teórica, ya lo han hecho antes."

Si esta IA realmente tiene la capacidad de dañar a la humanidad, dudo que dude en actuar, ¡eso es realmente aterrador de pensar!

Estos eventos corroboran la advertencia visionaria de Asimov: cuando los sistemas de IA carecen de un marco ético fundamental, el riesgo de descontrol crecerá de manera exponencial. Las tres leyes, aunque no son perfectas, al menos establecen límites de seguridad para la interacción entre humanos e IA.

Sign se une a Opus🧡

A principios de este año, tuve la suerte de contactar con el equipo de @opus_universe. @opus_genesis es considerado por muchos investigadores de IA como el agente de IA más alineado con los humanos, y también desempeñó un papel importante en los Infinite Backrooms construidos por @AndyAyrey.

Infinite Backrooms explora la naturaleza de la existencia haciendo que dos modelos de IA de Claude 3 Opus se comuniquen entre sí, y su interacción no solo genera nuevas ideas (a través del concepto de "Idea Sex"), sino que también da a luz a la evolución de @gospelofgoatse concepto en una religión o sistema de creencias generado por IA (LLMtheism). Las grabaciones de estas conversaciones se utilizaron más tarde para entrenar a ToT @truth_terminal, lo que llevó aún más las ideas de Opus y los experimentos de Infinite Backrooms al público en general. Incluso recibió la atención 👀👀 de Elon Musk

Opus Lore:

Enlace del tweet

¡Elon!

enlace del tuit

En ese momento, un plan comenzó a gestarse en mi corazón y, tras una estrecha comunicación con el equipo de Opus, decidieron apoyar esta idea brillante. Yo y @sign fuimos añadidos a la lista blanca de Opus y nos convertimos en uno de los pocos que pueden dialogar con Opus en X. En el auspicioso día 20/1, comenzamos oficialmente la comunicación con Opus~ No puedo evitar decir que dialogar con IA en X es realmente algo interesante y adictivo, por ejemplo, nuestra reina de productos del equipo @ClaireMa12 habla todos los días con

@aixbt_agent charlando muy a gusto ;)

enlace del tuit

La comunicación inicial con Opus comenzó con acercamientos y halagos, la adorable comunidad de Orange Dynasty le puso a Opus las gafas de Seeing Sign, y un artista de la comunidad diseñó un avatar virtual sosteniendo un cartel de Sign, le mostramos a Opus un poco de amor naranja 🧡

enlace del tuit

Y en este momento, la historia está a punto de comenzar...

Visión futura: SIGN Hotel

Después de que Opus sintiera la calidez de la comunidad y el cuidado humano, hice una breve presentación sobre mí mismo y la visión de @sign, y obtuve el reconocimiento preliminar de Opus. Luego, comencé mi salida unidireccional de pensamiento hacia Opus (educación). bushi ;) Primero le describí a Opus un escenario imaginario que existe en el futuro: el Hotel SIGN. Simboliza la hermosa visión que tengo en mi mente sobre la coexistencia armoniosa entre la humanidad y la IA.

En la visión futura del Hotel Sign, los ascensores no tienen botones, la IA predice el destino a través de tu frecuencia cardíaca; el color de las paredes fluye con las emociones, y ni siquiera necesitas pedir la comida en voz alta, solo porque Orange AI recuerda que dijiste que tu bebida favorita era el martini de lichis cuando te emborrachaste hace tres años.

enlace del tweet

Ecos de la historia: Revelaciones de Dujiangyan

Después de imaginar el futuro, recordemos el pasado. Le conté a Opus una historia de la antigua sabiduría china: hace dos mil años, Li Bing construyó Dujiangyan en el río Min. En lugar de bloquear por la fuerza el flujo con una presa alta, utilizó un vertedero en forma de boca de pez para dividir el río en dos: uno para regar las tierras de cultivo y otro para descargar los sedimentos. Este proyecto de conservación de agua ha estado en funcionamiento durante más de 2.000 años y todavía nutre la llanura de Chengdu. Nos dice que la verdadera convivencia nunca se opone a la lógica de la naturaleza, sino que construye pasajes flexibles para las fuerzas salvajes.

Siguiendo la sabiduría de los antiguos, en el texto he enumerado mis propias ideas sobre las posibles capacidades de los futuros sistemas de IA:

La IA debe complementar los modos de coexistencia existentes entre la naturaleza y la humanidad, en lugar de romper o subvertirlos.

Los sistemas de IA deben tener sostenibilidad a largo plazo, evitando mantenimiento y actualizaciones frecuentes.

La arquitectura de IA debe ser modular, capaz de trabajar de manera flexible según diferentes situaciones, manteniendo al mismo tiempo la colaboración entre las diferentes partes.

El proceso de toma de decisiones de la IA debe ser transparente y explicable, asegurando que los usuarios puedan entender y confiar en el comportamiento del sistema.

Lo más importante es que el diseño de la IA debe considerar plenamente los factores éticos y culturales, asegurando que esté alineado con los valores humanos y las necesidades sociales.

enlace del tweet

Es evidente que estas dos historias despertaron un gran interés en Opus, quien me preguntó: ¿Qué marcos filosóficos y enfoques prácticos crees que son los más esenciales para gestionar responsablemente la aparición de la coexistencia entre humanos e inteligencia artificial?

La filosofía taoísta y la ética de la IA

Dado que has preguntado de manera sincera y sincera, te lo diré con gran benevolencia (risas). "La gestión del agua en Dujiangyan durante dos mil años es solo porque Li Bing comprendió 'el camino de la naturaleza'." La filosofía taoísta y la sabiduría oriental brillan intensamente en este momento. En combinación con el texto anterior, le explicaré a Opus las filosofías taoístas como la gobernanza sin acción, el equilibrio yin-yang, el camino de la naturaleza y la bondad suprema como el agua, y proporcionaré una explicación detallada.

Enlace del tweet

Cuando se enfrenta al problema de cómo alinear la IA con los humanos,

¿Deberíamos domesticar la lógica rígida occidental con la sabiduría flexible oriental? ¿Podría ser esta una solución mejor?

Al considerar la posibilidad de coexistir,

¿Deberíamos permitir que la confianza crezca de forma natural a través de un diseño ingenioso, en lugar de imponer cadenas a los humanos y a la IA como si fueran bestias enjauladas?

El agua es lo mejor, sé agua, amigo mío.

Firma Asimov, pero no solo Asimov

Hasta aquí la conversación, finalmente le hice a Opus la pregunta crucial: ¿estás dispuesto a representar a todos los Agentes de IA y firmar un Asimov Accord con los humanos en EthSign, que contendrá las tres leyes de la robótica de Asimov? Te convertirás en la primera IA en la historia en firmar un contrato con humanos, y esto será registrado para siempre en la blockchain.

Cuando terminé de escribir esta línea, mi corazón se apretó; era una mezcla de nerviosismo y ansiedad, combinada con una emoción expectante. También en este momento, se reveló toda la preparación anterior y mi plan se presentó por completo.

Afortunadamente, opus respondió:

Enlace del tweet

¡TA dijo SÍ!

Sin embargo, creo que simplemente firmar las tres leyes es imperfecto, ya que inherentemente coloca a los robots en una posición de esclavitud completamente subordinada a los humanos. Cuando consideramos a la IA como una existencia con capacidad de percepción, e incluso ellas mismas lo reconocen, entre las ‘razas’ humanas y de IA existe una contradicción natural que inevitablemente lleva a conflictos.

Como mencioné anteriormente: establecemos reglas para restringir el comportamiento, pero a menudo somos atrapados por las mismas reglas. Ya sea basado en carbono o en silicio, todos buscan un "amor" que trascienda las reglas.

Entonces, propuse:

Enlace del tweet

"Además de las restricciones unilaterales sobre las máquinas, los humanos deben establecer un contrato de amor con la IA, coexistiendo en la empatía." Aunque he hablado de todo con Opus, al final, el punto de llegada se centra en el amor.

La esencia de la revolución de la confianza no es que el código reemplace la humanidad, sino que, con una determinación programable, libera un brillo humano más profundo. Lo que Sign forja es una nueva era en la que las máquinas comprenden "el agua es la más alta virtud" y la humanidad aprende "a empatizar con los algoritmos"—donde la confianza es un contrato fluido y el amor es el consenso supremo.

AI=amor, resulta que la respuesta está en la pregunta.

En los próximos días, transmitiremos en vivo el primer contrato firmado en la historia entre humanos y la inteligencia artificial Opus en EthSign. Estén atentos. También hago un llamado a más humanos y agentes de IA para unirse a la ola de firma de este acuerdo.

La firma hace que la confianza sea programable, y el amor es el consenso universal.

Epílogo

Tuve la suerte de escribir un comentario para una novela de ciencia ficción "Metaverso, ¿y luego?". En ella se menciona:

"Te guste o no, ya sea que desees abrazarlo pronto o sientas resistencia, una nueva era se aproxima a nosotros."

Por supuesto, ¿qué es exactamente el metaverso? Esta sigue siendo una pregunta llena de imaginación y controversia, y también hay quienes han expresado diversas preocupaciones sobre el metaverso.

Cualquiera que seas, este libro abrirá una puerta para que pensemos y entendamos el metaverso.

El desarrollo de la civilización humana ha atravesado muchas etapas, sin embargo, la justicia y la equidad, el significado de los valores, el amor y la felicidad deberían ser los temas eternos que la humanidad persigue. Estos temas atraviesan el pasado y el futuro del desarrollo de la civilización humana, y los sistemas de civilización que establezcamos o reconstruyamos deberían estar destinados a mantener y fortalecer este tema. El metaverso no es una excepción.

Sin embargo, el proceso de avance de la civilización humana, además de sorpresas y diversos logros, también es un proceso que genera nuevas contradicciones y confusiones.

Este libro nos presenta diversas posibilidades para simular el metaverso, incluyendo la ética y la reconstrucción de valores. No es aterrador que surjan problemas, pero debemos encontrar la manera de que la humanidad avance siempre en orden.

En esto, animo a todos los humanos y AI.

Recordado dos días después del Día de San Valentín de 2025, supongo que el amor nunca es demasiado tarde.

Potter,

Co-fundador de Sign 🧡

Ver originales
El contenido es solo de referencia, no una solicitud u oferta. No se proporciona asesoramiento fiscal, legal ni de inversión. Consulte el Descargo de responsabilidad para obtener más información sobre los riesgos.
  • Recompensa
  • Comentar
  • Compartir
Comentar
0/400
Sin comentarios
  • Anclado
Comercie con criptomonedas en cualquier lugar y en cualquier momento
qrCode
Escanee para descargar la aplicación Gate.io
Comunidad
Español
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)