.png?width=3840&quality=90&format=auto)
Erik VoorheesLa separación de la mente y el estado
Está claro que los poderes centrales siempre desearán apoderarse de las instituciones humanas.
Dinero. Religión. Educación. Negocios. Incluso el lenguaje y las matemáticas en sí.
Hace cientos de años, a través de enormes sacrificios, la institución de la religión se fue retirando gradualmente de la esfera de autoridad del gobierno. Hoy, religiosos o no, reconocemos la importancia de esa separación entre la iglesia y el estado.
Los cypherpunks originales buscaban separar el lenguaje del estado mediante el cifrado; durante un tiempo, los declararon una «munición», en la que ciertos tipos de matemáticas estaban prohibido exportar. Sus descendientes, los primeros pioneros de Bitcoin, buscaron separar de manera similar el dinero y el estado.
Pero si no se debe conceder a nadie el control monopólico sobre Dios, el idioma o el dinero, entonces, en los albores de la poderosa inteligencia artificial, deberíamos preguntarnos: ¿qué pasa con el control monopolista sobre la mente?
¿A quién concedemos licencias sobre la inteligencia en sí misma?
Mente y estado
Con solo un mensaje de texto rápido (una pregunta o un comando escrito en un lenguaje sencillo), las mentes humanas ahora pueden aprovechar las mentes de las computadoras para generar instantáneamente contenido asombroso de cualquier variedad. Mientras que la web permite a las personas acceder a la información rápidamente, la IA permite que las personas producir información de forma rápida.
Quizás sea inevitable que quienes temen la libertad de la mente humana también detesten su interacción sin restricciones con máquinas inteligentes. Los ocupados autoritarios ya planifican sus restricciones, sus licencias, sus límites, sus comités, sus políticas y sus permisos. Nos recuerdan que nuestra seguridad está en juego.
Pero recordemos también que las tecnologías son neutrales. Un martillo puede construir una casa o aplastar una calavera. UN uso humano específico de que la IA podría causar daño, pero hay pocas pruebas de que la propia IA lo haga.
Y no confundamos las tecnologías actuales de la IA generativa con la AGI. Esto último es algo diferente, algo que hasta ahora no se había visto. ¿Cómo sabremos cuándo (si) ocurre? Quizás cuando un programa de computadora no sigue las instrucciones. Pero desde Pong hasta GPT4, todos lo hacen.
Estamos presenciando el grave riesgo potencial de que un fenómeno aún no visto, como el AGI, se utilice implícita o explícitamente como justificación para controlar todo tipo de tecnología de inteligencia artificial ajena a AGI. Es un juego de manos.
Y estas tecnologías ajenas a la AGI son, de hecho, neutrales. Una sociedad que no pueda distinguir entre la neutralidad de la tecnología y los riesgos de casos de uso particulares subvertirá trágicamente el avance tecnológico en general. Evitar un daño imaginario causa un daño real. Las tribus que temían el fuego se quedaron paralizadas en la oscuridad y nunca las conoceremos.
Solo la prudencia dicta la descentralización.
Todas las personas buenas se preocupan por la seguridad. La pregunta importante: ¿la seguridad se logra mejor mediante la centralización coercitiva o mediante una descentralización abierta? Algunas voces bien organizadas están seguras de que es lo primero. Observe la entusiasta alianza entre las grandes empresas de tecnología, que naturalmente desean reducir la competencia de las empresas emergentes, y el Estado, que nunca ha visto nada sobre lo que no quisiera tener jurisdicción.
Esta unión —la definición misma de corporativismo y captura regulatoria— se manifestó hace dos semanas en la orwelliana «Junta de Seguridad y Protección de la Inteligencia Artificial» del Departamento de Seguridad Nacional.
Se garantiza que una organización de este tipo experimentará una misión progresiva con el tiempo. Y si la administración actual es sabia y virtuosa, consideremos el poder que está en manos posteriores.
Hay otra manera.
La transparencia y la descentralización son mejores mecanismos de seguridad que las apelaciones a expertos y las licencias estatales. El primero tiende a la mejora iterativa, mientras que el segundo tiende a la autocomplacencia y al estancamiento (atestiguemos el rápido dinamismo de la web3 frente al sistema bancario).
La base del código abierto es el medio más realista (y ético) por el que logramos un desarrollo tremendamente emocionante y una seguridad sólida. De hecho, así es como el mundo toda la infraestructura web funciona—esta base descentralizada y de código abierto trabaja empíricamente a la mayor escala que la humanidad ha sido capaz de construir hasta ahora.
Sin embargo, el Departamento de Seguridad Nacional no incluyó a un solo defensor del código abierto en su Junta de Seguridad y Protección de la IA de 22 miembros.
Creación de inteligencia sin permiso
Durante el año pasado, se formó un movimiento.
Las personas de IA que sienten pasión por el avance tecnológico se mezclan con personas de criptomonedas que tienen un profundo escepticismo ante la centralización y la confianza a través del credencialismo. Estos grupos son aliados naturales en la creación de una IA descentralizada y sin permisos.
Un par de años después de la descentralización de Cambio de forma, ahora me he visto envuelto en este movimiento de AI x Crypto. Desde el otoño pasado, he estado contribuyendo a un proyecto llamado Morfeo, una red de IA descentralizada. Y a partir de esa participación, me di cuenta de que era necesario crear un producto determinado (obvio).
Así que hemos empezado a construir Venice, compuesta por mí, nuestro director de operaciones Teana Baker-Taylor (anteriormente de HSBC, Circle y Binance) y un pequeño equipo.
Venice - La República Serena
Venice es una aplicación de IA generativa para personas sin conocimientos técnicos. Parecerá una versión ágil de Claude o Perplexity o ChatGPT, pero sin todo el material orwelliano (¿quizás por eso es tan ágil?).
Busca información mundial, mantén conversaciones enriquecedoras, analiza documentos, crea imágenes interesantes y obras de arte de cualquier estilo con solo pulsar un botón. Varios servicios de inteligencia artificial ofrecen estas cosas, entonces, ¿qué hace que Venice sea única?
Venice no te espía
Venice no censura la IA
En otras palabras, Venice es privada y Venice no tiene permiso.
Tenga en cuenta que cada modelo de IA de código abierto tiene sus propios límites y conjuntos de reglas, pero lo que es más importante, Venice permite a los usuarios elegir. Además, los usuarios profesionales pueden editar el indicador del sistema, lo que les permite moldear la personalidad de la IA con la que interactúan.
Entonces, ¿cómo funciona Venice?
Venice utiliza los principales modelos de IA de código abierto (nos gustan) Nous Research) para generar texto, código e imágenes en su navegador web o aplicación móvil.
Sin descargas. Sin instalaciones de nada. Y para un uso básico, no es necesaria una cuenta y el servicio es gratuito.
Los técnicos han estado utilizando herramientas de código abierto para la IA generativa, pero para cualquiera que esté un poco abrumado al llegar a Cara abrazada, Venice es para ti.
La interfaz de usuario de Venice es una aplicación web limpia que debería resultar familiar para cualquiera que haya utilizado ChatGPT.
La interfaz de usuario de Venice (modo ligero, web)
La interfaz de usuario de Venice (modo oscuro, móvil)
La aplicación es sencilla. Pero aquí está la diferencia...
Todas las empresas dicen que respetan la privacidad de los usuarios. Esto no tiene sentido. La única forma de respetar la privacidad del usuario es no violarla en primer lugar. Si una empresa tiene tus datos, tu privacidad ya está perdida.
Las principales empresas de IA guardan todo tu historial de conversaciones y lo adjuntan a tu identidad para siempre. Peor aún, lo desvían a varios terceros: anunciantes, piratas informáticos y, lo más peligroso de todo, los gobiernos.
Los del mundo de las criptomonedas estarán familiarizados con la arquitectura que minimiza la confianza, el diseño del lado del cliente y el cifrado de extremo a extremo. Estos patrones se falsificaron en el mundo de las criptomonedas porque había una fuerte cultura de privacidad y la necesidad de proteger a los usuarios y sus activos. Venice aplica estos patrones de protección a la IA generativa.
Tu el historial de conversaciones se almacena solo en su navegador. Venice no almacena ni registra ninguna respuesta rápida o modelo en nuestros servidores.
Sus solicitudes de inferencia (los mensajes que envía) pasan por un servidor proxy, encriptado, directamente a los recursos informáticos descentralizados.
La respuesta de la IA se transmite de manera similar directamente a través del servidor proxy cifrado a su navegador, nunca persistirá en ningún otro lugar que no sea su navegador.
Las GPU que procesan tus solicitudes de inferencia provienen de varios proveedores descentralizados y, aunque cada servidor descentralizado específico puede ver el texto de una conversación específica, nunca ve tu historial completo. ni conoce tu identidad.
El resultado:
Lo que Venice sabe: su correo electrónico y su dirección IP, pero no su conversación.
Lo que sabe el proveedor de procesamiento: una conversación específica, pero no tu dirección de correo electrónico o IP, y no puede asociar conversaciones específicas con usuarios específicos.
La privacidad perfecta solo se puede lograr con EL (llegaremos allí) o ejecutando modelos localmente (ve a por ello). Pero, hoy, creemos La arquitectura de Venice es materialmente superior a la de cualquier servicio de IA alojado si no quieres que te vigilen o censuren.
Más información sobre la arquitectura de privacidad de Venice aquí.
Y resulta que, cuando no agregas un montón de spyware e inicias sesión en las conversaciones de tus usuarios, la capacidad de respuesta de la aplicación es ayuno.
La privacidad es nuestra primera USP. Pero ahora hablemos de la segunda: la censura.
Todas las personas que han utilizado las principales aplicaciones de inteligencia artificial han observado la extraña, espeluznante y paternalista censura, y la situación está empeorando. ¿Estás interactuando con la inteligencia artificial o con un simulador de sesgos multimillonario?
Pídele a una IA un chiste sucio y se niega porque no quiere ofender...
Queríamos AGI, tenemos Barney & Friends.
Hoy en día existe un extraño doble rasero, en el que cualquiera puede conectarse a Internet y buscar cualquier tema, por grotesco que sea, y ver resultados relativamente poco filtrados. Sin embargo, si utilizas la IA para buscar aunque sea un chiste vulgar, te regañan suavemente y te dirigen hacia una «dirección más positiva desde el punto de vista social».
Advertencia: Venice puede ofender
Si te ofendes fácilmente y quieres barreras en tu aplicación de IA, no pasa nada, esas son tus preferencias. Pero no coloquemos a todo el mundo en el mínimo común denominador del entrenamiento de sensibilidad.
Bromas aparte, ¿qué pasa con los temas más importantes? Cuando la censura es explícita con barras negras censuradas, eso es una cosa, pero ¿qué pasa si se difunde de manera sutil en los tejidos de la información? ¿Quieres que la administración de Biden gobierne lo que te diga la IA? ¿Quieres la de Trump? ¿Alguna vez sabrás que está ahí??
Cuando las barras de la jaula son de hierro, son dañinas.
Cuando son invisibles, son insidiosos.
Para aquellos que prefieren el dinamismo y la vitalidad, hablar sin restricciones es un requisito previo y un mundo en el que su aplicación de inteligencia artificial les diga qué pensar y haciéndola pasar por inteligencia artificial objetiva... Bueno, eso parece un poco distópico.
No creemos que los pensamientos que desarrollas en tu mente sean asunto nuestro de regular y censurar. De ello se deduce que tampoco creemos que los pensamientos que se desarrollan con la ayuda de una mente artificial nos dediquen a regular y censurar.
La solución no es obligar a las empresas de tecnología a actuar de ciertas maneras. La solución es construir alternativas y ofrecerlas humildemente.
Venice lo respeta como individuo soberano y cree que la privacidad y la libertad de expresión no son solo derechos humanos, sino que son necesarias para el avance de la civilización. Incluso la vigilancia pasiva tiene un efecto escalofriante demostrable sobre pensamientos y acciones. A medida que las mentes de los humanos y las máquinas se fusionan, debería ser usted, no el Estado o una empresa tecnológica, quien defina los contornos de esta relación.
Este espíritu solo se puede ofrecer sobre la base de una arquitectura abierta y sin permisos.
Es cierto para la religión.
Es cierto para el lenguaje.
Es cierto para el dinero.
Es cierto para la mente... incluso si es artificial.
Por eso, presentamos Venice
ad intellectum infinitum
