Das israelische Parlament, die Knesset, erließ 1953 das Yad Vashem Gesetz, das festlegte, dass neben anderen Aufgaben Yad Vashems Auftrag darin bestehe, „Zeugnisse der Shoah zu sammeln, zu prüfen und zu veröffentlichen …“. Allerdings hatten die Bemühungen, den Holocaust zu dokumentieren, schon lange vor der Verabschiedung des Gesetzes begonnen. Von der Machtergreifung der Nazis in Deutschland an und während der gesamten Zeit des Zweiten Weltkriegs, gab es bereits Menschen, die die Ereignisse, noch während sie geschahen, aufzeichneten, oft unter den schwersten Bedingungen. Gleich nach dem Krieg wurden Dokumentationszentren und Sammlungen von Augenzeugenberichten an vielen Orten überall in der Welt eingerichtet, so u.a. in München, Lublin, Paris und Bratislava.
Während des Krieges begannen Nachrichten über das Geschehen in Europa die jüdische Gemeinschaft in Eretz Israel zu erreichen. Noch bevor das Ausmaß der Katastrophe deutlich wurde, gab Mordechai Shenhavi Anstoß zu einem Gedenkprojekt, zu dem ein Archiv gehören sollte. Das Yad Vashem Archiv nahm 1946 offiziell seine Tätigkeit auf, unter der Leitung von Dr. Sarah Friedlaender, einer gebürtigen Budapesterin, die dem Kasztner-Zug ihr Überleben verdankte.
Die ersten Dokumente erreichten Yad Vashem durch die „Historischen Kommissionen”, verschiedene Dokumentationszentren und öffentliche Einrichtungen, Forscher und Privatpersonen. Material aus Israel, das während des Krieges von Juden in den Ghettos, Lagern und Verstecken gesammelt worden war, kam hinzu.
Seit seiner Gründung ist das Archiv bestrebt, Dokumente, die mit dem Holocaust zu tun haben und in verschiedenen Archiven in Europa und weltweit aufbewahrt werden, zu kopieren und zu sammeln. Mit dem Fall des „Eisernen Vorhangs” und der Öffnung von Archiven in Osteuropa Ende der achtziger Jahre ist das Reproduktionsprojekt erheblich ausgedehnt worden.
Ein erfahrener professioneller Stab, zu dem Archivare, Historiker und Konservierungsspezialisten gehören, sorgt dafür, die Dokumente kommenden Generationen zu erhalten und bequemen Zugang zum Archiv zu ermöglichen. Die Materialien durchlaufen einen Aufnahme- und Sortierungsprozess. Sie werden laufend professionell katalogisiert und unter optimalen Bedingungen gelagert. Dokumente, die der individuellen Konservierung bedürfen, werden in der Konservierungswerkstatt behandelt.
Als Teil der Neugestaltung von Yad Vashem ist das Archiv in ein dem neuesten Stand der Technik entsprechendes Gebäude umgezogen, das im Jahr 2000 eingeweiht wurde.
