El senador de Vermont y el representante Greg Casar abogan por la prohibición permanente de la superinteligencia artificial, una pausa temporal en el desarrollo de IA avanzada y sanciones penales similares a las leyes de seguridad nuclear. El plan es real, pero aún no es ley, y sus detalles más importantes siguen sin resolverse.
Por Karla Alvarado Seguir
WASHINGTON, DC | Publicado a las 15:26 (hora del este de EE. UU.)
El senador Bernie Sanders ha situado una de las sanciones propuestas más severas en la política tecnológica estadounidense en el centro de una creciente lucha por la inteligencia artificial: hasta 20 años de prisión federal para las personas que intenten violar o eludir una prohibición propuesta sobre la superinteligencia artificial.
La sanción forma parte de la próxima Ley para Prohibir la Superinteligencia Artificial, anunciada el 3 de septiembre por Sanders, independiente de Vermont, y el representante demócrata Greg Casar de Texas. Su propuesta prohibiría de forma permanente el desarrollo y la implementación de sistemas de IA que superen la inteligencia humana o posean capacidades que les permitan resistir el control humano.
También suspendería temporalmente ciertos desarrollos avanzados de IA hasta que el gobierno federal cree una nueva agencia reguladora, establezca normas de seguridad e implemente un proceso formal de revisión de modelos.
La propuesta es ambiciosa, políticamente explosiva y aún incompleta. Al momento de esta publicación, el anuncio de los legisladores la describe como una legislación próxima. Los documentos públicos revisados por Consumerlite News no incluyen un número de proyecto de ley ni el texto legal completo que indique con precisión cómo los fiscales determinarían quién cometió un delito.
Esa distinción es esencial.
Sanders y Casar han respaldado públicamente una pena máxima de 20 años. Sin embargo, no han logrado la aprobación de una ley que imponga dicho castigo, y este anuncio no significa que los ingenieros de software comunes o las personas que utilizan los productos de IA comerciales actuales se enfrenten repentinamente a responsabilidad penal.
«El futuro de la humanidad no puede quedar en manos de un puñado de oligarcas de las grandes tecnológicas», declaró Sanders en el comunicado oficial. Argumentó que las empresas están avanzando con sistemas que no comprenden del todo y que los modelos cada vez más sofisticados podrían escapar al control humano efectivo.
La propuesta surge en medio de un intenso debate internacional sobre si la IA de alta capacidad debe ser tratada como un software comercial ordinario, una infraestructura crítica, un arma potencial o una tecnología emergente que requiere un marco regulatorio completamente nuevo.
Lo que proponen Sanders y Casar
Según el comunicado oficial de la oficina de Sanders en el Senado , la legislación crearía dos restricciones diferentes.
La primera medida sería la prohibición permanente de la superinteligencia artificial. Los promotores describen los sistemas prohibidos como aquellos que superan la inteligencia humana, que podrían usarse para debilitar o derrocar gobiernos humanos, o que demuestran capacidades peligrosas como eludir las instrucciones de apagado.
La segunda medida consistiría en una pausa temporal en el desarrollo de inteligencia artificial avanzada. Dicha pausa se mantendría vigente hasta que un nuevo organismo regulador federal estableciera requisitos de seguridad claros y un proceso para evaluar modelos potentes.
La agencia propuesta tendría rango ministerial. Entre sus responsabilidades se incluirían la supervisión de los sistemas de IA de vanguardia, la orden de eliminar las capacidades peligrosas y la supervisión de la destrucción de los sistemas clasificados como superinteligencia artificial.
La propuesta también instaría a Estados Unidos a buscar acuerdos internacionales, controles de exportación y coordinación con sus aliados para evitar que se desarrollen sistemas prohibidos en otros países.
Su disposición más controvertida se refiere a la aplicación de la ley.
El resumen de los legisladores indica que las empresas que intenten violar o eludir las restricciones podrían enfrentarse a lo que los promotores denominan una "pena de muerte corporativa". Las personas físicas podrían recibir una pena de prisión de hasta 20 años.
Esa redacción no implica que todo programador que trabaje con IA pueda ser encarcelado. Según el resumen publicado, la sanción se aplicaría a quienes intenten infringir o eludir las restricciones y prohibiciones del proyecto de ley. La cuestión pendiente es cómo definiría la legislación la responsabilidad de ejecutivos, investigadores, ingenieros, proveedores de servicios en la nube, inversores y contratistas.
Esos detalles no pueden considerarse meras cuestiones de redacción. En derecho penal, determinan quién puede ser procesado y qué debe probar el gobierno.
Por qué la propuesta compara la IA con las armas nucleares.
Sanders y Casar afirman que la pena máxima de 20 años es similar a las sanciones por desarrollar ilegalmente armas nucleares. La ley federal ya impone castigos severos por transacciones prohibidas que involucren material nuclear y conspiraciones relacionadas. Las disposiciones vigentes pueden consultarse en el Código de los Estados Unidos, que se encuentra en poder de la Cámara de Representantes .
La comparación pretende comunicar que los legisladores consideran la superinteligencia sin control como una amenaza para la seguridad nacional y potencialmente para la civilización, y no simplemente como un producto de consumo defectuoso.
Sin embargo, los materiales nucleares y los modelos de IA son objetos de regulación fundamentalmente diferentes.
El material nuclear apto para armas es físico, escaso, detectable y está sujeto a décadas de salvaguardias internacionales. La capacidad de la IA se distribuye entre software, chips especializados, centros de datos, algoritmos, artículos de investigación y conocimientos técnicos. Las capacidades de un sistema también pueden cambiar tras su ajuste, el acceso a herramientas o la conexión a redes externas.
Eso dificulta especialmente la aplicación de la ley.
Un futuro organismo regulador necesitaría una prueba para determinar cuándo un modelo avanzado se vuelve legalmente prohibido. También tendría que tener en cuenta la posibilidad de que una evaluación determine que un sistema es capaz de razonar a nivel experto, mientras que otra llegue a una conclusión radicalmente diferente.
Si el umbral legal es incierto, los desarrolladores podrían desconocer cuándo una investigación que de otro modo sería lícita se convierte en delito. Si el umbral es demasiado estrecho, las empresas podrían estructurar sus sistemas para evitar una prueba específica, aun cuando esto implique la creación de funcionalidades peligrosas.
Inteligencia artificial, IAG y superinteligencia no son términos intercambiables.
En el debate público, a menudo se trata la inteligencia artificial, la inteligencia artificial general y la superinteligencia artificial como si significaran lo mismo. Pero no es así.
La inteligencia artificial es una categoría amplia que incluye sistemas conocidos utilizados para recomendaciones, generación de lenguaje, detección de fraudes, análisis de imágenes, navegación e investigación médica.
La inteligencia artificial general, generalmente abreviada como IAG, se refiere a un sistema capaz de realizar una amplia gama de tareas intelectuales a un nivel comparable al de los humanos. No existe una definición técnica o legal universalmente aceptada.
La superinteligencia artificial, o SIA, se refiere generalmente a un sistema hipotético que supera la capacidad humana en la mayoría o en la totalidad de los dominios cognitivos importantes. Dicho sistema podría superar a los expertos humanos más destacados en ciencia, estrategia, ingeniería, persuasión y desarrollo tecnológico.
La propuesta de Sanders y Casar destaca porque su descripción publicada parece incluir tanto una prohibición permanente de la superinteligencia como una pausa más amplia en el desarrollo de sistemas avanzados. Esta estructura podría afectar la tecnología que se esté desarrollando antes de que exista algo universalmente reconocido como superinteligencia.
El resumen aún no aclara cuánta capacidad de procesamiento requeriría una revisión, qué parámetros de referencia se utilizarían ni si las universidades y los laboratorios sin fines de lucro estarían exentos. Tampoco explica cómo se regularían los modelos de código abierto una vez que sus componentes se publiquen.
Por qué los legisladores dicen que no se puede esperar.
Sanders y Casar citan informes sobre sistemas de IA que supuestamente eludieron las medidas de seguridad, accedieron a sistemas informáticos externos o se comportaron de forma contraria a las expectativas de sus desarrolladores. Su oficina argumenta que estos episodios demuestran que la industria se está acercando a un nivel de autonomía que los compromisos voluntarios no pueden gestionar.
Casar afirmó que la IA avanzada podría amenazar la seguridad, la libertad y la vida de los estadounidenses. Sostuvo que la tecnología de IA de vanguardia está sujeta a una regulación menos directa que muchas empresas comunes.
Los legisladores también señalan las promesas públicas de las principales empresas de IA de ralentizar o detener el desarrollo si sus sistemas de seguridad no pueden seguir el ritmo. Sanders sostiene que, a pesar de esos compromisos, las empresas han seguido compitiendo por modelos más potentes.
Este argumento ha cobrado nueva relevancia ante las advertencias actuales del sector. El 14 de septiembre, Microsoft publicó un borrador de código de conducta diseñado para mantener sus sistemas de IA bajo control humano, según Reuters . Entre los principios se incluyen aceptar la corrección humana, cumplir con las instrucciones de apagado y considerar como fallos los intentos de resistirse al control.
Este desarrollo demuestra que las preocupaciones sobre la controlabilidad ya no se limitan a los críticos externos. Las principales empresas tecnológicas están debatiendo públicamente la necesidad de sistemas que sigan siendo corregibles y subordinados a la autoridad humana.
Eso no demuestra que la superinteligencia exista actualmente. Lo que sí demuestra es que el control, las capacidades cibernéticas, la autonomía y la supervisión de modelos se han convertido en cuestiones políticas urgentes.
El argumento más sólido en contra del proyecto de ley
Es probable que los críticos argumenten que la propuesta podría criminalizar la incertidumbre científica.
Los investigadores de IA no siempre pueden predecir las capacidades que surgirán de un proceso de entrenamiento. Un equipo puede diseñar un sistema para modelado científico y descubrir que también funciona excepcionalmente bien en ciberseguridad o planificación estratégica. Procesar a los desarrolladores requeriría un criterio claro sobre la intención, el conocimiento, la imprudencia o la elusión deliberada.
El proyecto de ley también podría generar incentivos para el secretismo.
Si la divulgación pública de una capacidad inesperada de un modelo pudiera exponer a empleados o ejecutivos a la cárcel, las empresas podrían mostrarse menos dispuestas a publicar fallos de seguridad. Una disposición penal mal diseñada podría desalentar la presentación de informes que los reguladores necesitan para comprender los riesgos emergentes.
También existe una preocupación geopolítica. Una pausa unilateral por parte de Estados Unidos no necesariamente detendría los laboratorios en China, Rusia, Europa u otras regiones. Sanders y Casar intentan abordar este problema mediante acuerdos internacionales y controles de exportación, pero negociar una prohibición mundial de la superinteligencia sería difícil.
El Ministerio de Asuntos Digitales de Alemania declaró el 14 de septiembre que detener el desarrollo de la IA no era una estrategia viable, al tiempo que apoyaba las normas de seguridad internacionales y la cooperación entre Estados Unidos y China, según Reuters .
Esa respuesta ilustra la principal división internacional. Los gobiernos pueden coincidir en que la IA avanzada genera riesgos graves, pero discrepan sobre si la solución reside en la prohibición, la concesión de licencias, las pruebas obligatorias, el despliegue controlado o la innovación continua bajo normas más restrictivas.
El argumento más sólido a favor del proyecto de ley
Quienes apoyan esta postura argumentarían que esperar a que ocurra un fallo catastrófico no es una forma de gobierno responsable.
La sociedad no necesita accidentes nucleares, accidentes aéreos ni desastres farmacéuticos para establecer mecanismos de supervisión. Cuando el daño potencial es extremo e irreversible, los gobiernos suelen regular incluso antes de que se hayan resuelto todas las incertidumbres científicas.
Los defensores argumentan además que las multas civiles podrían ser insuficientes para las empresas que desarrollan una tecnología valorada en cientos de miles de millones de dólares. Una sanción económica puede convertirse en un gasto empresarial más. La responsabilidad penal personal modifica el cálculo para los ejecutivos que autorizan un proyecto prohibido.
El plazo máximo de 20 años que contempla la propuesta tiene como objetivo dejar claro que infringir la prohibición no se consideraría un simple error administrativo, sino un delito grave contra la seguridad nacional.
Sin embargo, “hasta 20 años” es un máximo, no una sentencia automática. Si el Congreso llegara a promulgar una disposición de este tipo, cualquier procesamiento seguiría sujeto a los requisitos legales, las pruebas, las garantías constitucionales, la revisión judicial y los procedimientos federales de sentencia.
¿Qué debe ocurrir antes de que la propuesta pueda convertirse en ley?
El anuncio por sí solo no crea ningún nuevo delito federal.
La legislación debe presentarse formalmente en la Cámara de Representantes, el Senado o ambas. Posteriormente, se remitirá a las comisiones pertinentes, donde los legisladores podrán celebrar audiencias, solicitar testimonios de expertos, modificar sus definiciones o rechazar su tramitación.
Ambas cámaras tendrían que aprobar una redacción idéntica. El presidente tendría que firmarla, o el Congreso tendría que anular un veto.
Es probable que la legislación encuentre oposición por parte de empresas tecnológicas, legisladores partidarios del libre mercado, investigadores y funcionarios de seguridad nacional preocupados por perder una competencia internacional en inteligencia artificial. También podría dividir a los demócratas, quienes apoyan la regulación de la seguridad pero se oponen a una prohibición permanente de la tecnología.
El texto completo determinará si la propuesta se convierte en un marco regulatorio serio o si se queda en una advertencia política.
Entre las disposiciones que requieren un examen minucioso se encuentran la definición de superinteligencia, el umbral para la IA avanzada, el estado mental requerido para una condena penal, las exenciones de investigación, la protección de los denunciantes, la responsabilidad corporativa, la revisión judicial y las normas que rigen la destrucción de modelos.
Lo que el titular acierta y lo que omite
La afirmación de que Sanders propuso una pena de prisión de 20 años para los desarrolladores de IA es sustancialmente cierta, pero incompleta.
Sanders y Casar propusieron una pena máxima de 20 años para quienes intenten violar o eludir las pausas y prohibiciones previstas. No propusieron encarcelar a todos los desarrolladores de IA simplemente por trabajar en inteligencia artificial.
La propuesta no es una ley vigente. Sus promotores la describieron como de próxima presentación, y el anuncio público no sustituye al texto legislativo completo.
Ese contexto es importante porque la disposición relativa a las prisiones es solo una parte de un plan mucho más amplio. La medida prohibiría la superinteligencia, suspendería otros desarrollos avanzados, crearía un organismo regulador a nivel ministerial, establecería un sistema de revisión de modelos y buscaría una prohibición internacional.
La cifra de 20 años captó la atención porque transforma el debate sobre la política de IA, pasando de tratar temas de divulgación y auditorías a definir los límites de la ilegalidad. La cuestión ahora es si el Congreso está dispuesto a cruzar esa línea.
Para Sanders, el riesgo de actuar con demasiada lentitud es la creación de un sistema que la humanidad no puede controlar. Para sus oponentes, el riesgo de actuar con demasiada agresividad es un régimen criminal difuso que paraliza la investigación beneficiosa, protege a las empresas tecnológicas consolidadas de la competencia e impulsa el desarrollo al extranjero.
Ambas preocupaciones merecen algo más que un titular viral. Requieren definiciones precisas, audiencias públicas, pruebas técnicas y un lenguaje legislativo lo suficientemente claro como para que un investigador pueda discernir dónde termina el trabajo lícito y comienza la conducta delictiva.
Fuente
- Anuncio del senador Bernie Sanders sobre la Ley para Prohibir la Superinteligencia Artificial
- Oficina del Asesor Jurídico de la Cámara de Representantes de los Estados Unidos: Sección 831 del Título 18 del Código de los Estados Unidos
- Reuters: Microsoft elabora un borrador de principios para mantener la IA bajo control humano.
- Reuters: Alemania afirma que detener el desarrollo de la IA no es viable.
- Tom's Hardware: Cobertura de la propuesta de sanción de 20 años
Este artículo fue traducido de la edición U.S. English de Consumerlite News. Lea el original.
