Technologii představila společnost NVIDIA v roce 2006. V roce 2007 bylabylo uvolněno [[Software development kit|SDK]] ve verzi 1.0 pro karty [[NVIDIA Tesla]] založené na architektuře G80. Ještě v prosinci téhož roku vyšla verze CUDA SDK 1.1, která přidala podporu pro karty série [[GeForce#GeForce 8|GeForce verze 8]]. Se správným ovladačem grafické karty přibyla podpora pro překrývání paměťových přenosů výpočtem a podpora pro více GPU akcelerátorů. V roce 2008 bylo vydáno současně s architekturou G200 SDK 2.0. Postupně s verzemi SDK 2.0 - 2.3 přibývala podpora pro emulovaný výpočet v [[double precision]] a podpora pro C++ šablony v rámci kernelu. V roce 2010 je v souvislosti s architekturou Fermi vydáno SDK 3.0, kde je již nativní podpora pro double precision výpočty, podpora pro ukazatele na funkce a podpora rekurze. Vylepšeny jsou také profilovací nástroje a [[Debugger|debuggery]] pro CUDA / OpenCL. Nejnovější stabilní verze CUDA SDK 4.0 byla vydána v květnu roku 2011. Největší změna je zde unifikace paměťových prostorů a masivní podpora [[Scalable Link Interface|MultiGPU]].
