1924年1月24日，孙中山以陆海军政府大元帅名义下令成立了“陆军军官学校筹备委员会”，委任蒋介石为筹备委员会委员长。2月6日，在广州堤畔设立了黄埔军校筹备处，参与筹备的有廖仲恺、邓演达、叶剑英等人，任命蒋介石为陆军军官学校校长，廖仲恺任国民党代表，邓演达任教育部长，周恩来任政治部主任。同时，孙中山还吸取苏联红军的经验，在军校首次设立了党代表，开展政治教育工作。

1924年5月5日，第一期学生入校编队。6月16日，黄埔军校正式开学。孙中山偕宋庆龄出席黄埔陆军军官学校开学典礼。在开学典礼上，孙中山作了演讲：“开这个军官学校独一无二的希望，就是创造革命军，来挽救中国的危亡！”苏联顾问鲍罗廷、加伦、高和罗夫参加了开学典礼。之后孙中山四次前往黄埔军校检阅。

黄埔军校是按照苏联红军的建军原则创办的，苏联选派了教官、提供了经费，并给广州政府送来了近万支枪和大批山炮弹药。黄埔军校的军事教官主要来源有三种：一是日本士官学校留学生；二是保定军校毕业生；三是云南和西江等各省讲武堂的毕业生。

施行政治教育，是黄埔军校区别于旧式军校的标志和特点。军校政治教育以讲授革命理论，传播革命思想，培养“亲爱精诚、团结合作、卫国爱民、不怕牺牲”的校风为重点内容，允许不同党派和学派的思想理论及学说传播流行。军校既讲三民主义，也讲共产主义，学术上比较自由。

黄埔军校的政治教育除了课堂理论教学外，还采用政治演讲会、政治讨论会、政治问答箱，出版壁报、刊物，文艺演出等多种形式，帮助学生们了解国民党的主义，提高研究政治问题的观察力，促进思想革命化。

黄埔军校的政治教育工作，开辟了中国革命军队政治建设的先河，为国共两党军队的创建和发展提供了宝贵的经验和范例，当中的许多做法和措施，后来仍在国共两党的军队中得到沿袭和引用。