Lahir di Memphis, Tennessee, AS, pada 1930, ayahnya adalah Herman Washington, pernah menjadi anggota band WC Handy, tetapi mati terbunuh ketika Green masih bayi.
Green dibesarkan oleh Rev Tigner Green dan mulai bermain di Church of God in Christ. Karena bakat alaminya memainkan piano dan gitar, dia akhirnya pindah ke instrumen saksofon saat bermain di marching band di Sekolah Menengah Booker T. Washington.
Saat masih menjadi murid di Booker T Washington, Green memulai karier profesionalnya di kelompok Beale Street pada pertengahan tahun 40-an, bermain di band rumah untuk pertunjukkan bakat yang dipandu oleh Rufus Thomas.
Thomas lah yang menghubungkan Green dengan gitaris pendatang baru dari Mississippi bernama BB King. Dia bermain dalam tur selama bertahun-tahun awal yang penting bagi King dan menjaga hubungan pribadi dan kerja yang erat dengan King selama beberapa dekade.
Pengembaraan jazz Green dimulai saat berada di jalan dengan band yang didukung revue Brown Skin Model. Ia tiba di New York pada tahun 1950 di tengah masa keemasan bebop. Dunia jazz New York saat itu menampilkan sekumpulan musisi seperti Green.
Ketika dia di San Francisco di mana memimpin band di klub malam Blackhawk yamg terkenal, yang menjadi pusat panggung jazz di Pantai Barat. Di sana Green juga tampil dengan: John Coltrane, Miles Davis, dan Clark Terry.
Selama sebagian besar dekade, dari akhir tahun 50-an hingga pertengahan 60-an, dia bermain dengan Lionel Hampton Orchestra, dan merekam serangkaian album seperti; “Hamp’s Big Band”, “The Many Sides of Hamp”, “Live at the Metropole Cafe, New York City”, dan “Jazz Man for All Seasons”.
Pada tahun 1987, dia bergabung dengan sekelompok mahasiswa untuk Universitas Negeri Memphis, termasuk: bassis Richard Cushing dan pemain trompet Willie Waldman, untuk membentuk FreeWorld.
Pada tahun 90-an, Green lebih jauh menjejahi dunia musik jam, dan bermain dengan proyek populer Bob Weir/Bob Wasserman, “Ratdog”. Green juga muncul di album terkenal milik Jimmie Vaughn, “Do You Get the Blues” yang masuk nominasi Grammy Award 2001. Pada tahun yang sama Green merilis album solonya yang dipuji, “Hermando Street Blues”.
Dipuji atas pengabdian musiknya selama bertahun-tahun, Green dianugerahi gelar Doktor kehormatan oleh Memphis College of Arts dan diakui atas pencapaian seumur hidup oleh WC Handy Heritage Awards. Green terus bermain dan tampil regular hingga 2018, saat ia dilanda oleh masalah kesehatan.
Rekan lamanya Richard Cushing memujinya sebagai seorang yang luar biasa, mentor dan guru bagi banyak orang yang dia temui.
Harta sejatinya bagi semua yang dia sentuh dengan pengetahuan musiknya yang mendalam dan keterampilannya, membuat Memphis tidak akan pernah sama tanpa energinya.
