古代希腊人和罗马人曾经用一氧化碳进行处决。11世纪一位西班牙医生第一次描述了这种气体。
最早制备一氧化碳的是法国化学家德·拉索内（法语：Joseph-Marie-François de Lassone）（1776年）。他通过加热氧化锌和碳制得了一氧化碳。但由于一氧化碳燃烧时产生了与氢气类似的蓝色火焰，de Lassone错误地认为他制得的是氢气。在1800年英国化学家William Cruikshank才证明一氧化碳是由碳元素和氧元素组成的化合物。
最早对一氧化碳的毒性进行彻底研究的是法国的生理学家Claude Bernard。在1846年，他让狗吸入这种气体，发现狗的血液“变得比任何动脉中的血都要鲜红”。现在我们知道血液变成“樱桃红色”是一氧化碳中毒的症状。
由于一氧化碳可以使血液变得非常鲜红的特点，一些肉品商人用一氧化碳处理鲜肉，可以使生肉不被氧化变色，甚至可以在10℃的温度下保存28天还如同新屠宰的肉，并因此引起非议。美国消费者协会认为即使这种处理没有害处，也会掩盖肉不新鲜的状态，即使肉品处于即将腐烂状态，消费者也不知情。
据报导，一氧化碳也用在纳粹大屠杀名为T4“安乐死”计划，纳粹由海乌姆诺透过货车运送气体。