Nació en 1947 en Örebro, Suecia, la misma ciudad de la región central del país donde nacieron Stig Blomqvist en 1946 y Ronnie Peterson en 1944.

Debutó en el automovilismo a los 21 años en eventos nacionales, conduciendo un Volvo PV544, el coche con el que muchos de sus compatriotas comenzaron sus carreras de rally en la década de 1960. Condujo y, en ocasiones, actuó como copiloto para adquirir más experiencia en rally. En 1972, fue copiloto de su compatriota Håkan Lindberg en el Rally RAC, con un Fiat 124 Sport Spyder de fábrica. No terminaron la prueba.

A principios de la década de 1970, se consolidó como uno de los pilotos de rally de su país, conduciendo un BMW 2002Ti para el importador sueco de BMW. Compitió principalmente en rallies escandinavos y también en el Rally de Escocia, en el Reino Unido. Con Lars-Göran Berg como copiloto, logró un sólido sexto puesto en el Rally de Suecia de 1972. Ese mismo año, también se convirtió en uno de los pilotos del Campeonato Sueco de Fórmula 3, terminando cuarto en 1973 y tercero en 1975, al volante de un GRD 373 – Ford Holbay del equipo Hans Wängstre Racing.

De vuelta a los rallies, no terminó el Rally de Portugal de 1974 con un Datsun 260Z oficial, con Sölve Andreasson como copiloto, y más tarde esa misma temporada se unió al equipo Fiat Rally. Junto a su copiloto Bo Reinicke, sufrió un accidente en el Rally RAC de 1974 y al año siguiente quedó quinto en el Rally de Suecia, copilotado por Claes Billstam en un Fiat Abarth 124 Rally, superando a sus compañeros de equipo, Markku Alén-Ilkka Kivimäki, que terminaron sextos.

Regresó a los monoplazas en 1978, pilotando un Ralt RT1 – Toyota en el Campeonato Europeo de Fórmula 3, logrando un séptimo puesto en Knutstorp. Carlsson continuó su carrera en los rallies para BMW, compitiendo en el Campeonato Sueco de Rally hasta 1980, cuando terminó décimo en el Rally de Suecia, entonces prueba del Campeonato Mundial de Rally de Pilotos, con Sven-Roine Hasselberg como copiloto en un BMW 320i. En 1980, le ofrecieron un puesto en el equipo oficial de Mercedes-Benz, durante un programa limitado. De nuevo con Claes Billstam como copiloto, quedó 11.º en el Rally de Montecarlo con un Mercedes 280CE y 5.º en el Rally de Portugal con el Mercedes 450 SLC. No terminó los rallies de la Acrópolis ni de Nueva Zelanda. De vuelta a casa, regresó a BMW, debutando en el Rally de los 1000 Lagos de 1983, copilotado por Christian Bodén en un BMW 323i.

A finales de 1983, inició una colaboración de siete años con el Mazda Rally Team Europe. Fue el director del equipo Mazda y piloto oficial, Achim Warmbold, quien le contrató para el desarrollo del Mazda RX-7 con motor rotativo del Grupo B. Al volante del coche de tracción trasera, con su copiloto Benny Melander, logró un impresionante tercer puesto en el Rally Acrópolis de 1985, muy cerca de los ganadores Timo Salonen-Seppo Harjanne con un Peugeot 205 Turbo 16, y de sus compatriotas Stig Blomqvist-Björn Cederberg, segundos con un Audi Sport Quattro. Él y Melander también lograron el octavo puesto en el Rally de Suecia y el décimo en el Rally Lombard RAC.

En 1985 condujo uno de los Volvo 240 Turbo, tuneados por Ruedi Eggenberger, para el equipo sueco Magnum en el Campeonato Europeo de Turismos. En la Anderstorp 500, quedó segundo con Ulf Granberg y Anders Olofsson, muy cerca de sus compañeros de equipo Gianfranco Brancatelli-Thomas Lindström, quienes finalmente se alzaron con el campeonato. A principios de la temporada, con Granberg, terminó quinto en los 500 km de Donington Park.

A mediados de la década de 1980, el campeonato mundial de rallies estaba dominado por los coches de tracción total y Mazda presentó un nuevo modelo: el Mazda Familia 4WD del Grupo A con tracción a las cuatro ruedas, también llamado 323 4WD. trabajó en el desarrollo del coche que debutó en el Campeonato Mundial de Rally en el Rally de Montecarlo de 1986, pilotado por Achim Warmbold con la famosa copiloto francesa "Biche" (Michèle Espinosi-Petit), y él copilotado por su amigo Jan-Olof Bohlin. Ninguno terminó la competición, ya que el sueco se vio obligado a retirarse debido a un fallo en la caja de cambios. Posteriormente, él y Bohlin consiguieron otro décimo puesto en el Rally Lombard RAC, primeros del Grupo A. Además de competir en rallies, también participó en la empresa de tuning Mercedes-Benz, que lleva su nombre. En el Campeonato Europeo de Turismos de 1986, compartió un Mercedes 190E 2.3-16, inscrito por el Team Carlsson, con el experimentado piloto checoslovaco Zdeněk Vojtěch.

A finales de 1986, la FIA disolvió el Grupo B en el Campeonato Mundial de Rally. El Campeonato Mundial de Rally de 1987 quedó reservado únicamente para coches del Grupo A y del Grupo N. Tras un año de duro trabajo en el desarrollo del coche, el Mazda 323 4WD era competitivo frente a equipos como Ford, Audi y Lancia, cuyos coches entraron en la categoría recién en 1987, debido a la prohibición del Grupo B. ahora emparejado con Per Carlsson, con el que no tenía parentesco, consiguió dos meritorios cuartos puestos en las dos primeras rondas de la temporada, el rallies de Montecarlo y el de Suecia. Los ganadores de este último fueron sus compañeros de equipo, Timo Salonen-Seppo Harjanne, quienes se habían unido al Mazda Rally Team Europe en 1987.

Inscrito como tercer piloto del equipo en 1988, junto a Salonen y la veterana estrella del rally Hannu Mikkola, Ingvar Carlsson, con Per Carlsson en el Mazda 323 4WD blanco y azul, logró una prestigiosa victoria en la primera edición del Rally de Australia, superando a los locales Possum Bourne-Rodger Freeth con un Subaru RX Turbo. Pero fue en 1989 cuando Carlsson, con 41 años por aquel entonces, condujo al Mazda a dos victorias en el Campeonato Mundial de Rally. Su primer éxito llegó a principios de enero de 1989, en el Rally de Suecia, cuando heredó el liderato después de que sus compañeros de equipo Timo Salonen-Voitto Silander estrellaran el Mazda 323 4WD contra un banco de nieve. Seis meses después, al otro lado del mundo, logró su segunda victoria en el Rally de Nueva Zelanda, celebrado el 15 de julio de 1989. Ingvar Carlsson, de nuevo con su copiloto Per Carlsson, venció a los neozelandeses Rod Millen-Tony Sircombe en un Mazda 323 4WD privado. 1989 resultó ser la mejor temporada de su carrera; posteriormente, quedó octavo en el Rally Lombard RAC y séptimo en el Campeonato Mundial de Pilotos.

Permaneció con el Mazda Rally Team Europe durante los dos años siguientes. En 1990, Carlsson obtuvo un segundo puesto en el Rally de Nueva Zelanda, a menos de dos minutos de los ganadores Carlos Sainz-Luís Moya en un Toyota Celica GT-Four oficial. Posteriormente, terminó 5.º en el Rally de Australia y, en 1991, cuando Mazda presentó el nuevo 323 GT- X, fue 4.º en el Rally de Suecia y 8.º en el Rally de Nueva Zelanda. Carlsson puso fin a su carrera en el Campeonato Mundial de Rally en 1991, cuando el fabricante japonés interrumpió su programa de rally. Continuó conduciendo ocasionalmente un BMW M3 y un Opel Astra GSI 16V, con el que disputó su última carrera en su país, el Rally de Suecia de 1994, donde consiguió una victoria en su categoría y el 19.º puesto en la general.

Tras Harry Källström y Pentti Airikkala ese mismo año, Ingvar Carlsson fue la tercera leyenda escandinava del rally en fallecer en 2009.Falleció con tan solo 62 años, tras una breve enfermedad, en Nyköping, Suecia, donde vivió la mayor parte de su vida.