El auge de la inteligencia sintético ha provocado que cada vez más compañías tengan interés en exprimir las virtudes de esta tecnología. Un ejemplo de ello podría ser la intención de las grandes tecnológicas de apurar con los programadores, ya que consideran que las herramientas de IA podrían durar a realizar una parte importante del trabajo de los mismos. Sin retención, existe un problema que deben solventar ayer de seguir trazando planes relacionados con la implementación de la inteligencia sintético: la demanda de posibles necesarios para satisfacer las peticiones de los modelos de IA.
Como señala TechSpot, uno de los nuevos proyectos de Microsoft está centrado en la eficiencia energética de los modelos de inteligencia sintético. Se prostitución de BitNet b.158 2B4T, un nuevo maniquí de idioma de la firma norteamericana que solo necesita 400 MB de memoria y no requiere GPU para funcionar. Para ello utiliza cuantización ternaria (-1, 0 y +1), un aspecto que permite que cada peso se almacene en solo 1,58 bits y, así, reduce de forma drástica el uso de memoria. Por otra parte, cuenta con 2.000 millones de parámetros y, al sobrevenir sido entrenado con 4 billones de tokens, hablamos del equivalente a 33 millones de libros.
¿Lo conseguirá Microsoft?
Según revela el portal norteamericano, el nuevo maniquí de Microsoft es capaz de aventajar las prestaciones de otros como Candela, Gemma o Qwen. Por otra parte, incluso funciona de forma competente en procesadores habitual, una situación que beneficia a opciones como el chip M2 de Apple que no cuenta con hardware especializado. De hecho, utiliza un entorno de software propio llamado bitnet.cpp, un aspecto diseñado de forma específica para este tipo de pesos ternarios.
Gracias a todas las ventajas citadas, el maniquí de idioma de Microsoft consume entre un 85% y 96% menos que otras opciones tradicionales, ya que exprime al mayor la sencillez de su cimentación. Por otra parte, BitNet fue entrenado desde cero con desaparecido precisión y, por ello, es capaz de evitar la pérdida de rendimiento. Como consecuencia directa, puede proveer la ejecución de IA descubierta en dispositivos personales sin necesitar de la nimbo, pero incluso tiene limitaciones como una ventana de contexto más pequeña y soporte constreñido de hardware. Aún así, Microsoft planea templar esto en el futuro.
Imagen principal de 3DJuegos
En 3DJuegos | James Cameron lo tiene claro, pelis como Vicisitud o Dune podrían estar condenadas a caducar si no logramos que cuesten menos hacerlas. ¿Su alternativa? Usar una IA
En 3DJuegos | Vendió su rostro y su voz por 4.600 euros a empresas de IA y ahora revela por qué es la peor idea que ha tenido quia