CUDA, Compute Unified Device Architecture, es una tecnología desarrollada por nVidia que permite usar el poder de calculo de los GPUs. Esta tecnología obviamente no es nueva, pero ha experimentado una gran aceptación dentro del mundo computologo ya que nos permite usar lo que muchas veces solo sirve para jugar . CUDA fue introducido en Noviembre del 2006 como una arquitectura de propósito general para computación paralela, que aprovecha al máximo los motores computacionales de los GPUs de nVidia para resolver problemas complejos de una manera mucho mas eficiente que los CPU.

Debido a la gran demanda del mercado para renderizar gráficos 3D de alta definición y procesamiento en tiempo real, los GPUs, o Unidades de Procesamiento de Gráficos, evoluciono mas allá de los limites impuestos por los CPUs, proveyendo procesadores con muchos núcleos, un ancho de banda de memoria excepcional y una tremenda fuerza computacional, lo que permite ejecutar muchas tareas e hilos de procesamiento en paralelo.  Esto se logra gracias a que el GPU tiene mas transistores especializados en procesamiento de datos a diferencia del CPU, que debe cachear datos y controlar el flujo de control.

En definitiva, si hablamos de soluciones a problemas que pueden ser diseñadas como ejecuciones en paralelo y que necesitan un gran poder de calculo aritmético, lo mejor seria poder utilizar el GPU para resolver estos problemas, ya que es justamente para lo que fue diseñado el GPU y de lo que se tratan las tareas de renderizado, procesamiento en paralelo de grandes volúmenes de datos de punto flotante en tiempo real.

Pero …. todo lindo dirán ustedes … ¿Que ventajas me da CUDA por sobre otras APIs gráficas? … bueno …

1ro. y principal es que CUDA no es una API gráfica, es una tecnología que nos permite utilizar el poder de calculo de los GPUs para otras tareas, con lo cual no podremos renderizar texturas, por ejemplo.

2do. Se puede consultar cualquier posición de memoria, o lo que se denomina lecturas dispersas.

3ro. Existe un área de memoria compartida, la cual puede ser accedida por los hilos de ejecución, este área de memoria es extremadamente rápida, lo que nos permite utilizarla como cache.

4to. Soporta enteros y operaciones a nivel bit.

5t0. Debido al gran ancho de banda de memoria, las lecturas son extremadamente mucho mas rápidas que un CPU.

Para la gran mayoría de desarrolladores que me he cruzado en lo que llevo de vida, hablar de procesamiento en paralelo es complicarse la vida, obviamente por que no es un tópico que se vea a fondo en los primeros cursos de programación y teorías de programación en la facultad. De hecho, si se tiene la suerte de verlos, se lo hace muy por arriba. Esto podría haber sido valido durante los 80′s y 90′s … donde corríamos sobre procesadores de un solo núcleo y se sabia que correr hilos en paralelo no era mas que correr tareas paso a paso con una buena planificación del CPU. Pero ahora, con el advenimiento de CPUs de núcleos múltiples y GPUs de muchísimos núcleos (sí, con múltiples nos quedamos cortos ) es necesario cambiar nuestra estructura mental y empezar a pensar realmente en computabilidad paralela y para esto es que se crean los modelos de programación escalable, como CUDA, para aprovechar al máximo el gran incremento de núcleos de procesadores.

CUDA expone al programador, como un conjunto mínimo de extensiones de lenguaje, 3 abstracciones principales, una jerarquía de grupos de hilos, memoria compartida y barreras de sincronización. Estas abstracciones guían al desarrollador a particionar problemas para que se creen aplicaciones que de forma transparente escalen su paralelismo para poder incrementar el numero de núcleos computacionales. La estructura que se utiliza en este modelo esta definido por una matiz (o ventor de hasta 3 dimensiones) dentro del cual hay bloques de hilos.

Por el momento voy a seguir aprendiendo sobre esta tecnología y en el futuro posteare cosas mas concretas … so far … les dejo algunos links de interés.

Tarjetas graficas que soportan CUDA

The Cost to Play: CUDA Programming | Linux Magazine

nVidia CUDA Zone

Algunos proyectos que se benefician de esta tecnologia:

SETI@Home

Los investigadores en el campo científico de SETI recibieron un incremento masivo en poder de cómputo, cuando Nvidia y BOINC liberaron un cliente optimizado que le permitirá a SETI@home ser acelerado sobre GPUs GeForce. SETI@home, el proyecto más grande de BOINC con casi 200,000 usuarios activos, busca inteligencia extraterrestre mediante el uso de telescopios de radio para escuchar señales de radio de amplitud de banda corta provenientes del espacio.

GPUGRID

GPUGRID, el primer proyecto de BOINC en usar las GPUs Nvidia GeForce con tecnología CUDA para cómputo, utiliza las tarjetas de gráficos basada en Nvidia en las PCs participantes para computar simulaciones biomoleculares de alto desempeño para la investigación científica. Agregar el soporte para las GPUs Nvidia derivó en 1,000 GPUs activas que ofrecen la misma cantidad de poder de cómputo en por lo menos 20,000 CPUs en proyectos similares, brindando una velocidad promedio de hasta 20 veces.

Einstein@Home

La tecnología Nvidia CUDA pronto estará impulsando el tercer proyecto más ampliamente utilizado por BOINC, Einstein@Home, que utiliza el cómputo distribuido para buscar estrellas de neutrones giratorios (también llamadas pulsares) usando datos de detectores de ondas gravitacionales.

Saludos!