要准确追溯吉他的起源实际上是不可能的。首先是因为人类乐器产生的早期距现在十分遥远，大部分木质的乐器在自然条件下很容易腐烂，而音乐本身比乐器更难以保留。如果不运用完善的记谱和录音技术，音乐总是会随时间而逝，很快荡然无存，而且乐器学与音乐学的发展也只是近代的事。所以我们既很难知道古老的乐器的确切结构、当时如何演奏，又不可能知道远古的音乐听起来会是什么样，对于乐器历史的研究往往只能靠片言只语的历史文献或雕塑绘画等考古发现来推测。
尽管如此，人们对于乐器产生的大概过程还是比较清楚的：从模仿鸟兽鸣叫到有音高、节奏变化的喊叫进而产生的声乐，肯定要早于人类器乐的发展。在器乐中最早发展起来并引起人们注意的是节奏乐器，即敲击性乐器。如石块、木头、果壳、骨头的敲击甚至鼓等乐器的出现，在所有的原始民族中敲击性乐器都是很丰富的。中国古代的编钟等就是敲击乐器有了音高变化的高级形式。其次，管乐器即吹奏乐器也很容易由骨管、竹管、苇管、螺壳等的吹奏中发展起来，中国古代的“埙”就是其中的一种。在人类音乐发展中真正具有划时代意义的是弦乐器的出现。最早的弦乐器就是由狩猎武器发展成的乐弓，现在非洲的某些原始部落中还有乐弓存在。在实际使用中，人们往往在乐弓的弓杆上附加上果木壳、龟甲骨头等以增加共鸣，扩大音量。 如图：古老的乐弓、古埃及弹拨乐器--竖琴类、古埃及竖琴类乐器演奏图、在以后的发展中，由于人们对音乐的要求不断提高，乐弓便开始向两个方向发展，一种是增加弦的数量以扩大音域，如竖琴、中国古代的箜筱、著名的希腊里拉琴等。我们现在音乐的标志乐徽就是由里拉的形象组成的，其他如古筝、扬琴，就连现代的钢琴都是这一类的弦乐器与机械技术的结晶，足见弦乐器在人类音乐生活中的影响有多么深远；另一种由乐弓演变成了有若干根琴弦并带有琴颈的弦乐器，演奏时以手指把有限的几根弦按在琴颈上改变弦长来扩大音域这一类的乐器繁多，如吉他、鲁特琴、曼陀林、提琴，及中国的琵琶、胡琴、古琴、三弦、阮等等。以上乐器根据其演奏方法的不同又分为弓弦乐器与弹拨乐器等。
吉他这一类有琴颈的弹拨乐器的祖先，可以追溯到公元前两三千年前古埃及的耐法尔，古巴比伦（两河流域的苏美尔文化）和古波斯的各种古弹拨乐器。考古学家找到的最古老的类似现代吉他（一样具有内弯的琴体）的乐器，是公元前1400年前生活在小亚细亚和叙利亚北部的古赫梯人城门遗址上的“赫梯吉他”。8字型内弯的琴体决定了吉他属乐器特有的声音共鸣和乐器特点，这也成为吉他与其它弹拨乐器（如琴体是半梨形的鲁特属乐器）的最显著特点。
在十三世纪的西班牙，由波斯语逐渐演化成的西班牙语吉他（Guitarra）一词就已经形成，在当时种类繁多的乐器中，已经出现了“摩尔吉他”和“拉丁吉他”。其中摩尔吉他琴体为椭圆形背部鼓起，使用金属弦，演奏风格比较粗犷；拉丁吉他琴体为与现代吉他类似的8字型平底结构，使用羊肠弦，风格典雅。
文艺复兴时期是吉他的鼎盛时期。十六世纪四对复弦的吉他和它的近亲──用手指弹奏的比维拉琴，在演奏与创作方面都达到了很高的水准。吉他和比维拉琴不仅深受民众喜爱，而且还常常成为宫廷乐器。当时的吉他、比维拉大师有米兰（Luis milan）、纳乐瓦埃斯（Luys de Narvaez）、穆达拉（Alonso mudarra），以及十七世纪时五组复弦的巴洛克吉他时代大师桑斯（Gaspar Sanz）、科尔贝塔（Cor betta）、维赛（Vi see）等。他们的许多作品现在仍是现代古典吉他曲目中的不朽财富。当时吉他、比维拉琴等乐器所使用的记谱方法还不是现在的五线谱，而是用横线来代表各弦，用数字或字母表示音位和指法，与现在民谣吉他中使用的六线谱类似的图示记谱法。
当时十分兴盛的乐器还有古钢琴和鲁特琴（Lute）。鲁特琴前身是阿拉伯的乌德琴（UD的原意是木头）。我国的琵琶、胡琴等也是汉朝时由当时的阿拉伯国家即西域传入的。当时著名的鲁特琴大师道兰（Dowland）和魏斯（Weiss）等人的作品经后人改编，在今天的古典吉他曲目中也占有重要的位置。伟大的巴洛克音乐集大成者巴赫所创作的不朽作品如大提琴、小提琴组曲、奏鸣曲的吉他改编曲，在古典吉他曲目中的地位举足轻重，尽管有学者对巴赫有没有创作过鲁特作品提出疑问，但他所传世的四首鲁特琴组曲和少量鲁特作品，首首都具有不朽的价值。巴洛克时期的其他一些作曲家如维瓦尔弟的鲁特琴、曼陀林协奏曲，和D.斯卡拉第的古钢琴奏鸣曲的吉他改编曲都在古典吉他曲中占有重要位置。
十八世纪后期鲁特琴和比维拉琴逐渐退出了历史舞台，五对复弦和其后出现的六对复弦的吉他也渐渐完成了它们的历史使命。1800年前后，全新的六根单弦的吉他以其清晰的和声及调弦方便等优点很快得到了几乎全欧洲的青睐，古典吉他的黄金时代终于到来了。
十九世纪初，活跃在当时吉他音乐中心巴黎、维也纳还有伦敦的最著名的吉他大师有索尔（Sor），阿瓜多（Aguado），朱利亚尼（Giuliani），卡罗利（Carulli），和卡尔卡西（Carcassi）。其中索尔和朱利亚尼除了是吉他大师外还是出色的音乐家，他们以杰出的才华为六弦古典吉他创作了包括协奏曲在内的第一批大型曲目，为六弦吉他日后的发展奠定了基础。尤其索尔在创作上承袭海顿、莫扎特的古典音乐传统，除写作歌剧、舞剧音乐外，还为吉他创作了包括系统的练习曲、教程在内的大量优秀作品，被音乐评论家称为“吉他音乐的贝多芬”。阿瓜多、卡罗利、卡尔卡西的重要作品和他们所作的大量练习曲与吉他教程至今仍是古典吉他中的经典。在十九世纪还有不少音乐家喜爱并演奏吉他，如舒伯特、韦伯和柏辽兹，小提琴魔王帕格尼尼不但擅长演奏吉他，而且还曾放弃提琴演奏，献身于吉他达三年之久，为吉他写下了大量作品。
十九世纪后期著名的吉他音有乐家考斯特（Coste）、默茨（mertz）、卡诺（Cano）、雷冈第（Regondi）等，他们为吉他创作的很多优秀作品都成为了十九世纪吉他音乐的经典。但是不可避免地，在钢琴、管弦乐、歌剧音乐发展的巨大冲击下，吉他在十九世纪中期以后渐渐失去了往日的辉煌，演奏与创作一度处于低潮，这种情况一直持续到十九世纪末吉他才再度复兴。
吉他在十九世纪末再度复兴的生命力是在西班牙获得的。吉他能在二十世纪蓬勃发展并达到前所未有的辉煌，在很大程度上应归功于“近代吉他之父”泰雷加对吉他从制做、乐器性能、演奏技术直至曲目等各方面的深入研究和革新。泰雷加和他的老师阿尔卡斯一直致力于与吉他制作家托雷斯（Torres）合作，并最终生产出了琴体扩大、音量增大、乐器性能明显改善的现代古典吉他。毕业于马德里音乐学院和声与作曲专业，并且是位出色钢琴家的泰雷加尽管公开演出不多，但一生潜心研究吉他，创立了全新的演奏方法，创作了大量糸统和科学的练习曲与出色发挥吉他乐器性能的不朽名曲，他还选择改编了许多适合吉他演奏的古典音乐名曲，以扩大吉他的目曲范围。泰雷加的杰出贡献以及他的学生、后继者柳贝特（Llobet）、普霍尔（Pujol）等人的不懈努力，终于使古典吉他在十九、二十世纪之交重新获得了新的生命，为二十世纪吉他的辉煌打下了坚实的基础。
二十世纪古典吉他强大的生命力是由伟大的吉他大师－－塞戈维亚（&127;Andre Seqovia 1893-1987），以其近七十年的演奏和探索一步步推向高潮的。塞戈维亚以他超凡的天才、坚定的信念和坚持不懈的努力，使吉他最终摆脱了沦为酒店、咖啡馆民间乐器的命运，使古典吉他作为音乐会独奏乐器的魅力被音乐界与世人所公认，最终使吉他克服了种种偏见，成为了和钢琴、提琴一样被人们广泛喜爱的高雅乐器。塞戈维亚遍及世界各地的频繁演出不但使全世界了解了古典吉他，使吉他在全世界流行开来，还吸引了许多专业作曲家为吉他写下了大量高水平的音乐作品。这些作曲家中最著名的如：为吉他写下《五首前奏曲》与《十二首高级练习曲》的巴西作曲家维拉-罗伯斯（Villa-Lobos），《阿兰胡埃斯》吉他协奏曲的作者罗德里戈（Rodrigo）等。塞戈维亚还为吉他改编了大量著名音乐作品，如巴赫的无伴奏小提琴作品《恰空》等，大大丰富了古典吉他的曲目，最终使古典吉他的曲目在二十世纪无论在数量和质量上都达到和其他重要乐器一样的水平。在本世纪初几乎没有一个音乐学院开设吉他专业，塞戈维亚不但积极从事教学工作，培养了大批年青的吉他演奏家，他还鼓励世界各大音乐学院开设吉他专业，并鼓励他的学生们从事教学，而到现在世界上几乎没有几个著名的音乐院校不把古典吉他列为重要的专业。这是塞戈维亚对古典吉他的又一巨大贡献。现在活跃在世界各地音乐舞台上的无数优秀的吉他演奏家，几乎没有一个不直接或间接受过塞戈维亚的教诲或影响的。虽然大师已经离开了人世，但是每当我们演奏起吉他、或是学习吉他、或是观赏吉他演奏、聆听吉他音乐，甚至仅仅是谈论起古典吉他时，我们实际上都是前进在大师以毕生的功绩铺就的宽阔大道上和不朽的光辉中，尽管我们末必能时刻意识到这一点；但世界上不时响起的古典吉他那迷人的乐声，则是对大师最好的纪念和赞颂。
对二十世纪吉他音乐产生重大影响的其他音乐家中，特别值得一提的是巴拉圭吉他奇才巴利奥斯（Agustin Barrios Mangore 1885-1944）。具有印第安血统的巴利奥斯自称为“吉他中的帕格尼尼”而且毫不为过，他除了是位出色的吉他演奏家和作曲家外，还是位哲学家、画家、宗教学者和诗人，除了在世界各地成功地巡回演出外，他还是第一个为古典吉他录音的演奏家。巴利奥斯出色的艺术才华在二十世纪的大部分时间里并末得到世人的公认，本世纪后期巴利奥斯以多种风格创作的大量丰富多彩的吉他曲逐渐被发掘出来，并成为了古典吉他音乐中最重要和最受人喜爱的曲目之一。