Composition imaginée ou développée par un virtuose au fur et à mesure de l'exécution, sur un sujet donné ou en se livrant entièrement à sa fantaisie. Au moyen âge, l'organum était souvent improvisé par le chanteur chargé de cette partie. L'improvisation fut de tout temps particulièrement pratiquée et goûtée en Italie; à l'époque du style polyphonique, elle se manifestait par les ornements vocaux insérés déjà à profusion dans leur partie par les habiles chanteurs; à l'époque de la monodie et du style accompagné, elle devint une obligation pour l'instrumentiste chargé de la basse continue et même pour ceux qui formaient, dansl'orchestre, le petit groupe chargé de compléter ou d'embellir le canevas tracé par le compositeur, en ajoutant à la symphonie des passages et des scherzi. Cerreto (circa 1550) parle de la nécessité qu'il y a pour un bon joueur de cornet ou de trombone, de connaître l'art du contrepoint, afin de réussir les passages improvisés. Agazzari (1608) fait la même remarque à propos du violon. Cette coutume devint bientôt plus nuisible qu'utile; la vanité des instrumentistes les portait à renchérir les uns sur les autres et ils arrivaient à surcharger l'accompagnement d'improvisations perpétuelles qui, au dire de Doni (1593-1647), engendraient la confusion. On fut conduit par cet abus à noter au long la basse et les parties accessoires. L'improvisation se réfugia dans le jeu en solo, où elle fut souvent pratiquée par les maîtres d'une manière merveilleuse. Les biographies de Bach, de Handel, de Beethoven, offrent des anecdotes typiques à cet égard. Bach en 1725, à Hambourg, joua « de tête », pendant plus de 2 heures, des variations improvisées sur le choral Am Wasserfliïssen Babylon. Beethoven épanchait dans ses improvisations non seulement le flot de son invention musicale, mais l'expression de ses pensées intimes. Ce fut en s'asseyant au piano, sans mot dire, et en donnant libre cours à son génie, qu'il sut parler à une mère cruellement affligée le langage du cœur et, en la partageant, apaiser sa souffrance. Mendelssohn faisait de l'improvisation un « jeu d'esprit » et se plaisait à émerveiller le public en brodant à quatre mains des variations improvisées. Le souvenir des improvisations de César Franck, à l'orgue de Sainte-Clotilde,est resté ineffaçable dans la mémoire de ceux qui ont pu en être témoins. On regarde habituellement comme une obligation pour l'organiste de savoir improviser et, en effet, nulle part ce genre de talent n'est d'une application plus fréquente, puisque la durée d'une pièce doit souvent se régler sur celle d'une cérémonie. Les organistes studieux s'exercent donc à l'improvisation par l'étude des œuvres des maîtres et par la pratique de la variation et de l'omementation d'un thème fixé. Mais le don de création qui en est le fondement indispensable n'est pas assez commun pour que l'art de l'improvisation ne consiste pas d'ordinaire en réminiscences et en formules plus ou moins dissimulées.

On a donné quelquefois le titre,d'improvisation à des compositions écrites dans des formes très libres et de courtes dimensions.