Mason Williams nasceu em Dallas, Texas. Ele cresceu em Oak Ridge, Oregon, e graduou-Noroeste Classen High School, em Oklahoma City, Oklahoma. Ele foi para a faculdade em Oklahoma City University. Ele viveu por um tempo em Oak Ridge, e a partir de 2006, viveu em Eugene, Oregon, com sua esposa, que é um advogado de defesa.
Mason Williams surgiu no final dos anos 1960 como uma grande força na televisão e nos círculos da música. Em 1968, ele ganhou dois prêmios Grammy por sua composição única para violão, "Classical Gas". Naquele mesmo ano ele também ganhou um prêmio Emmy por seu trabalho como um escritor de comédia The Smothers Brothers Comedy Hour.
Em 1970, Williams fez uma aparição na televisão em um memorável show de variedades, Just Friends, que reuniu regulares da The Smothers Brothers Comedy Hour. Para criar um elemento visual para seu desempenho, ele usou uma guitarra clássica jogável plexiglass especial construído para ele por Billy Cheatwood e próximo designer para o ABC. Para a execução, Williams encheu a guitarra com água e acrescentou um casal de pintassilgo. Ele então usou a guitarra plexiglass ao dedo-sync sua versão do hit "Classical Gas".