Der Grünpfeil wurde in der DDR erfunden und aus der Straßenverkehrsordnung der DDR "herübergerettet". Ab 1964 galt dort zunächst eine allgemeine Erlaubnis zum Rechtsabbiegen bei Rot ohne jegliche Beschilderung. Da diese Regelung internationalen Vereinbarungen zum Straßenverkehrsrecht widersprach, wurde 1978 die Grünpfeiltafel eingeführt.
Bei der Wiedervereinigung wurde festgelegt, den Grünpfeil nach einer Übergangsfrist abzuschaffen. Doch seit dem 1. März 1994 ist er Bestandteil der bundesdeutschen Straßenverkehrsordnung und wird auch in den alten Bundesländern an Kreuzungen eingesetzt.
Westdeutsche Städte kamen im Jahr 1999 auf nur 300 Grünpfeile, ostdeutsche Städte dagegen auf 2 500. Mittlerweile schätzt man, dass es in Deutschland etwa 5 000 Grünpfeile gibt, davon sind 48 Prozent in den alten Bundesländern zu finden.