1988年柯尔特公司授命于美国陆军部，在陆军部与海军陆战队参与下研制新型的M16突击步枪。柯尔特公司的工程师把枪管弄短至14.5英寸(370mm)，枪管上增加了一个缩颈用以挂装M203榴弹发射器，采用伸缩枪托，射击方式为半自动和三发点射，护木内采用了双层的铝制隔热屏。
这种新型卡宾枪的柯尔特公司产品编号为Model 720，在1991年3月军方正式定型并命名为“美国5.56mm北大西洋公约组织(NATO)口径M4卡宾枪”(The United States Carbine, Caliber 5.56mm NATO, M4)。
由于M4和M16A2非常相似它们有80%的零件可以互换，因此最初也称为M16A2卡宾枪。M4首先装备82空降师，用于替代 M16A1/A2步枪、M3冲锋枪和车辆驾驶员使用的部分9mm手枪，1994年正式列装。
随后柯尔特公司又为海军研制了一种射击方式为半自动和全自动的 Model 727，除射击方式外其他与M4完全一样，因此Model 727又被称为M4增强型(M4 except)或海军型M4。
然后柯尔特公司又研制了一种M4的子变体，主要是设计了一种新的平顶型机匣盖以安装模块化的瞄准系统。在1994年8月，这项改进被军方采纳，并把这种平顶型M4正式命名为“美国5.56mm北大西洋公约组织口径M4A1卡宾枪”(The United States Carbine, Caliber 5.56mm NATO, M4A1)，柯尔特公司编号Model 27。
M4A1的主要改进是把原来的固定式提把改为可以安装不同瞄准装置的M1913导轨——即平顶型机匣，此外M4A1的射击方式是半自动和全自动，就像M16A1一样。M4/M4A1卡宾枪在美国的特种作战部队中服役，特别是美国陆军的游骑兵、海军陆战队的武力侦察队和海豹突击队等等。
M4/M4A1受到其他作战部队及非一线作战人员的钟爱。从1997年11月起，美军陆军正式装备M4/M4A1卡宾枪，到1999年底全部现役部队换装M4/M4A1，而原来的M16A2则转交预备役部队和海岸防卫队。不过尽管平顶型机匣早已投产，但首先装备的M4仍然是带瞄具提把的标准M16A2机匣。
