Mehrere CSV-Dateien in einer Tabelle zusammenführen

Ordnerverbinder · CSV-Ordner

Konvertieren Sie einen Ordner mit CSV-Dateien in SQL-Tabellen Sie können überall Abfragen durchführen.

Richten Sie den Query Streams Agent auf den Ordner aus. Er liest die Dateien auf seinem Rechner, erstellt die Tabellen in einem lokalen Cache und hält sie aktuell, sobald Dateien hinzukommen, geändert werden oder gelöscht werden. Sie können die Tabellen aus Excel, Google Sheets, Nova, Claude oder der REST-API abfragen. Es werden keine Daten hochgeladen, konvertiert oder bearbeitet.

Ungefähr 15 Minuten Keine Programmierung erforderlich Die Dateien bleiben in Ihrem Netzwerk. Der kostenlose Tarif deckt dies ab.

Was am Ende dabei herauskommt

Man erhält am Ende beispielsweise eine SQL-Tabelle. fileset.sales, die die Zeilen jeder CSV-Datei im Ordner enthält, mit einem _Quelldatei Jede Zeile enthält eine Spalte mit dem Namen der Quelldatei. Sobald eine neue Exportdatei eingeht oder eine alte Datei korrigiert wird, aktualisiert sich die Tabelle beim nächsten Scan automatisch, ohne dass ein erneuter Import erforderlich ist. Der Agent liest die Dateien auf dem Computer, auf dem er ausgeführt wird, und speichert die Zeilen dort zwischen, sodass die CSV-Dateien in Ihrem Netzwerk verbleiben.

Alles befindet sich in einem einzigen DuckDB-Schema namens DateisatzDie Daten werden auf dem Agentencomputer zwischengespeichert. Die Datentabelle übernimmt den von Ihnen eingegebenen Namen. TabellennameDie Spalten stammen aus dem CSV-Header, plus _Quelldatei und _row_id in jeder Zeile.

Jeder Ordnerverbinder bietet Ihnen außerdem Dateien, Dateien_Ereignisse, Verzeichnisse, Verzeichnis-Snapshots und Bände, welche die CSV-Dateien selbst, deren Änderungshistorie und Ordnergrößen auflisten.

Wo es seinen Nutzen hat:

• Monatsende: Jede Filiale legt eine CSV-Exportdatei in einem gemeinsamen Ordner ab, und die Finanzabteilung fragt die kombinierte Tabelle ab, anstatt die Dateien zusammenzufügen.
• System-Exporte: Ein nächtlicher Job schreibt täglich eine CSV-Datei, und die Tabelle wächst jeden Morgen um eine Datei.
• Manuell zusammengestellte Ordner: Gemischte CSV-Layouts aus verschiedenen Tools, jedes wird zu einer eigenen Tabelle, wobei jede Tabelle einem Layout entspricht.

Was Sie benötigen

Ein Query Streams-Konto

Ordnerverknüpfungen sind in allen Tarifen enthalten, auch in der kostenlosen Version. Die kostenlose Version ist ein dauerhafter Tarif und keine befristete Testphase. Es gibt keine Begrenzung für die Anzahl der Dateien, die ein Ordner enthalten kann.

Der Agent, Version 2.6.0 oder später

Die Installation erfolgt auf einem Computer, der den Ordner öffnen kann: dem Dateiserver selbst, einem Bürocomputer oder dem Rechner, auf dem die Dateien gespeichert werden. Bei einem älteren Agenten werden die Ordnerkarten ausgegraut angezeigt. Agent 2.6.0+ Badge. Windows, Mac oder Linux.

Der Pfad des Ordners, wie ihn der Agent sieht

Ein lokaler Pfad oder eine Netzwerkfreigabe, geschrieben als \\server\share\folder. The Agent runs as a service, so it cannot see drives you mapped at your login (Z: and friends). On Windows it can sign in to a share with a login you store; on Linux or a Mac, mount the share first (Linux under /mnt oder /Medien, a Mac under /Volumes).

Richten Sie es in fünf Schritten ein

1. Installieren Sie den Agenten auf einem Computer, der den Ordner öffnen kann.

   Anmelden, öffnen HerunterladenInstallieren Sie den Agenten für Ihr System auf dem Computer, der einen Ordner mit CSV-Dateien öffnen kann: dem Dateiserver oder einem beliebigen Computer, der ständig eingeschaltet ist und auf die Freigabe zugreifen kann. Die Installation dauert etwa eine Minute und startet anschließend automatisch. Sie benötigen Version 2.6.0 oder höher; die aktuelle Version finden Sie immer auf der Downloadseite.

   Warum ein kleines Programm anstelle eines Treibers? Der Agent benötigt eine einmalige Installation für Windows, Mac oder Linux (ca. 85 MB unter Windows, etwas über 100 MB unter Mac und Linux). Er öffnet eine einzige verschlüsselte Verbindung zu Query Streams – dies ist der einzige benötigte Netzwerkpfad: Es muss kein eingehender Port geöffnet werden, kein VPN ist erforderlich. Der Agent liest den Ordner, in dem er sich befindet. Die Dateien bleiben also an Ort und Stelle, und nur die von einer Abfrage zurückgegebenen Zeilen werden über das Internet an das Add-in, den Browser oder den KI-Client auf Ihrem System übertragen.

   Die Downloadseite zeigt Ihr ZugangsschlüsselFügen Sie es in das Feld des Agenten ein, wenn Sie dazu aufgefordert werden, und warten Sie, bis das Abzeichen gelesen wurde. Verbunden mit AbfrageströmenDas ist das Einzige, was Sie auf dem Computer des Agenten tun; alles andere geschieht in Ihrem Browser.

   Vollständige Komplettlösungen, falls gewünscht: Fenster, Mac, Linux.

2. Weisen Sie es auf einen Ordner mit CSV-Dateien zu.

   Zurück in Ihrem Browser öffnen Daten → DatenagentenSuchen Sie den soeben installierten Agenten und klicken Sie darauf. Anschluss hinzufügen Schaltfläche. Öffnen Sie die Dateien und Ordner Pille und wähle die CSV-Ordner Karte. Sie sind sich nicht sicher, welche Karte passt? Wählen Sie eine aus. Dateien in einem Ordner Stattdessen: Der Agent durchsucht den Ordner, benennt dessen Inhalt auf einer Seite mit dem Titel „Was wir gefunden haben“ und öffnet die richtige, vorausgefüllte Karte für Sie.

   Der Zauberer rennt Ordner → Prüfen → Einstellungen → Realm → Überprüfen. An Ordner:

   Stammverzeichnisse

   One path per line, as the Agent’s computer sees it. Each folder shows a status (reachable, denied, missing, unreachable, credentials invalid or not mounted) as soon as you add it. On a Windows Agent a share that needs a login gets one from the folder’s Credential column, stored once per server; on Linux or a Mac, mount the share first.

   Unterordner scannen, maximale Tiefe

   Ein, und standardmäßig 8 Stufen.

   Muster einschließen, Muster ausschließen

   Welche Dateien zählen? Das Include-Muster beginnt mit dem passenden Glob für diese Karte. Ein Connector liest einen Dateityp: einen Ordner mit CSV-Dateien. und Parquet-Dateien bestehen aus zwei Konnektoren im selben Ordner, einem pro Dateityp.

   Folgen Sie symbolischen Links und Kreuzungen

   Standardmäßig deaktiviert. Der Agent folgt weder Verknüpfungen noch Cloud-Platzhaltern, solange diese Option nicht aktiviert ist.

   Beginnen Sie mit dem Anschluss hinzufügen Schaltfläche eines Agenten, mit der der Ordner geöffnet werden kann. Öffnen Dateien und Ordner und klicken Sie auf CSV-Ordner Karte.

   • Stammverzeichnisse: Ein Ordner pro Zeile, als Pfade auf dem Agentencomputer. Geben Sie eine Netzwerkfreigabe an als \\server\share\folder, nicht als zugeordneter Laufwerksbuchstabe.
   • Muster einbeziehen beginnt als **/*.csv. Unterordner scannen ist eingeschaltet.
   • Typ a Tabellenname, Zum Beispiel VerkäufeEs ist auf dieser Karte erforderlich.
   • Wähle ein Tabellenlayout. Ein fixiertes Layout (Standard) Geeignet für wiederkehrende Exporte, die alle einen gemeinsamen Header haben. Ein Tisch pro Layout Geeignet für Ordner, die von Hand zusammengestellt werden, bis zu 25 Layouts.
   • Ein Ordner, der auch Parquet- oder Excel-Dateien enthält, benötigt einen zweiten Connector für denselben Ordner. Ein Connector kann jeweils nur einen Dateityp lesen.

3. Prüfen Sie, was es erstellen wird.

   An Überprüfen Der Agent liest eine Stichprobe von bis zu 64 Dateien und zeigt an, was er erstellen wird. Es wird noch nichts erstellt. Die Schaltfläche lautet: Testverbindung bis ein Urteil vorliegt, dann Weiter; Testen Sie erneut Das Beispiel wird nach jeder Änderung erneut ausgeführt. Es wird eine von vier Schlagzeilen angezeigt:

   Bereit zum Erstellen

   Jede Stichprobendatei passt. Die darunterliegenden Chips geben an, wie viele Ordner erreichbar waren, wie viele Dateien und Zeilen es gibt und welche Tabellen vorhanden sein werden.

   Fertig, mit Notizen

   Einige Dateien werden aussortiert oder die Layoutprüfung wurde fehlgeschlagen. Ein gelbes Banner zeigt genau an, welche Dateien betroffen sind: „{n} von {m} Dateien werden aussortiert“. Zeigen Sie, welche Dateien und warum Liste und „Sie können sie trotzdem erstellen – der Konnektor überprüft dies immer wieder und meldet den Grund auf der Registerkarte „Manifest“.

   Aufmerksamkeit erforderlich

   Der Agent ist offline oder ein Ordner fehlt. Beheben Sie das Problem, bevor Sie fortfahren; wenn der Agent offline ist, wird dies zwar angezeigt, Sie können aber trotzdem fortfahren.

   „Dieser Ordner enthält {n} verschiedene Dateiformate.“ Ein hellblaues Feld bedeutet, dass die Stichprobendateien nicht alle denselben Spaltensatz gemeinsam haben. Tabellenlayout Standardwert Ein angeheftetes Layout, was voraussetzt, dass jede Datei übereinstimmt. Klicken Sie Wechseln Sie zu einer Tabelle pro Layout und jedes Layout wird stattdessen zu einer eigenen Tabelle (bis zu 25).

   Eine Ablehnung oder zurückgestellte Akten blockieren Sie nicht: Klicken Sie WeiterSchließen Sie den Assistenten ab und beheben Sie die fehlerhaften Dateien später. Nur ein offline befindlicher Agent oder ein fehlender Ordner verhindert den Abschluss des Assistenten.

   An ÜberprüfenDer Agent liest eine Stichprobe von bis zu 64 Dateien und zeigt die Dateianzahl, die geschätzte Zeilenanzahl und die zu erstellenden Tabellen an. Es werden noch keine Tabellen erstellt. Wenn der Ordner mehrere Header enthält, während Tabellenlayout ist noch angeheftet, ein hellblaues Bedienfeld mit der Überschrift „Dieser Ordner enthält {n} verschiedene Dateilayouts“ bietet Wechseln Sie zu einer Tabelle pro LayoutEin gelber Banner mit der Aufschrift „{n} von {m} Dateien werden zurückgestellt“ listet die Dateien auf, die nicht passen; öffnen Zeigen Sie, welche Dateien und warum Um jeden einzelnen Grund zu sehen. Sie können den Konnektor trotzdem erstellen; er prüft dann ständig erneut und meldet den Grund. Manifest Tab.

4. Wählen Sie die Scanfrequenz und erstellen Sie den Scanvorgang anschließend.

   Die Standardeinstellungen auf Einstellungen Geeignet für einen Ordner, der nur wenige Dateien pro Tag empfängt. Vier Punkte, die Sie möglicherweise ändern möchten:

   Scanintervall

   Jede Stunde Standardmäßig; wählbar von alle 5 Minuten bis täglich. Bei jedem Durchlauf werden Größe und Änderungsdatum verglichen, um neue, geänderte und verschwundene Dateien zu finden.

   Ordner auf Änderungen überwachen (nahezu in Echtzeit)

   Standardmäßig deaktiviert. Im aktivierten Zustand reagiert der Agent innerhalb von Sekunden auf lokalen Festplatten; bei Netzwerkfreigaben erfolgt die Reaktion nach bestem Bemühen, und der geplante Scan bleibt die Garantie. Ruhezeit (15 Sekunden) wartet, bis das Schreiben einer Datei abgeschlossen ist.

   Bitte aktualisieren Sie die Seite, bevor Sie eine Anfrage beantworten.

   Standardmäßig deaktiviert. Bei Aktivierung wird eine Abfrage zuerst erneut gescannt, wenn der letzte Scan älter als der letzte Scan ist. Fenster für Frische (60 Sekunden), wobei höchstens die Wartezeit beträgt Abfragewartezeitlimit (5 Sekunden). Dies gilt für Personen und Add-Ins, nicht für Benachrichtigungsumfragen.

   Wenn eine Datei verschwindet

   Entferne die Zeilen standardmäßig oder Zeilen beibehalten, gelöschte Zeilen als gelöscht markieren (Grabstein). Der Vanish-Guard-Verhältnis (0.5) lehnt einen Scan ab, bei dem mehr als die Hälfte der Dateien auf einmal verloren gehen, und behält den vorherigen Bestand bei, was einer Offline-Freigabe entspricht.

   Wählen Sie dann die Datenbereich die Zeilen zählen, überprüfen Rezension und klicken Sie Konnektor erstellenDer erste Scan startet sofort. Der Anschluss Manifest Der Tab zeigt an, was erstellt wurde und welche Dateien beiseitegelegt wurden.

5. Schaut euch eure Tabellen an

   Öffnen Sie den Stecker: Manifest Die Registerkarte listet die erstellten Tabellen auf. Abfrage-Generator Die gleichen Tische stehen unter dem Dateisatz Schema. Drei Abfragen, die vom ersten Tag an funktionieren:

   Wie viele Zeilen trägt jede CSV-Datei bei?

   SELECT _source_file, COUNT(*) AS row_count, MIN(_row_id) AS first_row_id FROM fileset.sales GROUP BY _source_file ORDER BY row_count DESC LIMIT 100

   Bestätigt, dass alle erwarteten Dateien in der zusammengeführten Tabelle enthalten sind, und zeigt an, welche Exporte die größten sind.

   Welche CSV-Dateien befinden sich aktuell im Ordner?

   SELECT relative_path, size_bytes, modified_utc FROM fileset.files ORDER BY modified_utc DESC LIMIT 100

   Es werden alle Dateien aufgelistet, die der Agent sehen kann, wobei die neueste Änderung zuerst angezeigt wird, sodass Sie fehlende oder veraltete Exporte erkennen können.

   Welche Dateien wurden beiseitegelegt und warum?

   SELECT relative_path, event_type, detected_by, detail, event_at FROM fileset.files_events WHERE event_type IN ('refused', 'drift') ORDER BY event_at DESC LIMIT 20

   Nennt alle Dateien, deren Zeilen ausgelassen wurden, und gibt den Grund dafür an, z. B. eine Spalte, die nicht mit dem festgelegten Layout übereinstimmt.

   Jeder Ordnerverbinder dient auch denselben Buchhaltungstabellen, alle im Dateisatz Schema:

   Tisch	Was es enthält
   Dateien	Alle aktuell im Ordner befindlichen Dateien: Pfad, Name, Dateiendung, Größe, Erstellungs- und Änderungsdatum, zuletzt gesehen und zuletzt aufgerufen. Eine Übersicht über files_current, in dem auch verschwundene Dateien aufbewahrt werden.
   Dateien_Ereignisse	Die Änderungshistorie: eine Zeile pro Datei erschien, War modifiziert, verschwandwurde beiseite gelegt (Driftoder war abgelehnt, mit der Zeit in event_at, wie es bemerkt wurde in erkannt von und der Grund dafür Detail.
   Verzeichnisse, Verzeichnis-Snapshots, Bände	Anzahl und Größe der Ordner, wie sie gewachsen sind und auf welchen Datenträgern oder Freigaben die Stammverzeichnisse liegen.
   _Quelldatei, _row_id	Jede Datenzeile enthält zwei Spalten: die Datei, aus der die Zeile stammt, und eine eindeutige Zeilen-ID innerhalb dieser Datei. Gruppieren nach _Quelldatei um Dateien zu vergleichen.

Reaching a file on a network share

The Agent opens files as a background service, not as you, so a file on another computer needs one extra step. Which step depends on the computer the Agent runs on.

If the test cannot get to the share, look for these words in its result: unreachable means the Agent’s computer got no answer from the server. On Linux or a Mac, not mounted means the share still has to be mounted, and that message includes the exact mount command for your server.

When a folder is not reachable

Every folder on the Ordner step shows a status as soon as you add it. Hover the status to read the Agent’s own message; its first words say which case it is.

Nutze es überall

Der Konnektor ist eine Datenquelle wie jede andere in Query Streams. Speichern Sie eine Abfrage einmalig im Abfrage-Generator (der Dialekt ist DuckDB) und verwenden Sie es von hier aus:

Excel

Das Add-in Streamen Sie eine Abfrage Die Zeilen werden in ein Tabellenblatt eingefügt und bei einem Klick erneut ausgeführt. SQL in Excel ausführen.

Google Sheets

Der Abfragestreamer Das Add-on füllt einen von Ihnen ausgewählten Tab. Power Query für Google Sheets.

Claude, Cursor und andere KI-Clients

Über den Query Streams MCP-Server kennt Claude das Ordnermodell, einschließlich _Quelldatei und Dateien_Ereignisse. CSV-Ordner mit Claude über MCP.

REST-API

Jede gespeicherte Abfrage wird in jedem Tarif zu einem schreibgeschützten Endpunkt mit eigenem Schlüssel. CSV-Ordner-REST-API.

Nova

Fragen Sie in einfachen Worten nach dem Businessplan; Nova kennt jede Ordnertabelle und Spalte anhand seiner integrierten Beschreibungen.

Automatisierungen

Synchronisieren Sie die Zeilen nach einem Zeitplan mit Airtable, Smartsheet, Baserow, SeaTable oder einem Tabellenblatt. Automatisierungsleitfäden.

Ordnertabellen lassen sich auch mit Ihren anderen Konnektoren verknüpfen: Eine föderierte Abfrage kann übereinstimmen _Quelldatei Namen oder Bestellnummern in einem Ordner mit CSV-Dateien in einer Datenbank auf demselben Agenten.

Wie neue, geänderte und gelöschte Dateien angezeigt werden

beiseitegelegte Dateien

Im Schritt „Prüfen“ und auf der Registerkarte „Manifest“ erscheinen drei Wörter. Sie haben unterschiedliche Bedeutungen:

Beiseite stellen (geparkt)

Die Datei entspricht nicht dem festgelegten Layout oder ist unlesbar, beschädigt, gesperrt oder über einer Kappe. Es gilt das Alles-oder-Nichts-Prinzip: Eine geparkte Datei trägt null Zeilen bei. Dateien_Ereignisse Aufzeichnungen Drift Reihe, deren Detail Die Datei und die Spalte werden benannt. Die Datei wird übersprungen, solange ihre Größe und ihr Änderungsdatum gleich bleiben, und erneut versucht, sie zu laden, sobald sie sich ändert.

Unlesbar

Der Agent konnte die Datei aufgrund ihres Typs nicht öffnen oder analysieren: keine echte Arbeitsmappe, von einem anderen Programm gesperrt, ein Cloud-Platzhalter, nicht dekodierbare Bytes. Er bricht den Vorgang ab, und der Rest des Ordners wird weiterhin verarbeitet. Nur ein Ordner ohne lesbare Dateien verweigert die Verarbeitung des gesamten Pakets.

Abgelehnt

Der Agent konnte kein Layout festlegen, beispielsweise weil die Dateien unterschiedliche Spaltentypen verwenden. Es existiert noch keine Datentabelle. Dateien_Ereignisse bekommt ein abgelehnt Zeile mit dem Grund in DetailDer Agent versucht es bei jedem Scan erneut, bis ein Layout gefunden wird. Korrigieren oder schließen Sie die angegebene Datei aus, dann verschwindet die Meldung.

Wo man suchen muss: das bernsteinfarbene Banner auf Überprüfen (Zeigen Sie, welche Dateien und warum), des Steckverbinders Manifest Anschließend die Tabulatortaste. In SQL: SELECT relative_path, event_type, detail FROM fileset.files_events WHERE event_type IN ('drift','refused') ORDER BY event_at DESC.

Grenzen, die man kennen sollte

Es gibt keine Beschränkung hinsichtlich Ordnern oder Dateianzahl. Die Zeilen werden wie bei jedem anderen Connector auf Ihren Datenbereich angerechnet. Standardeinstellungen, die Sie für den Connector anpassen können:

Inhaltsbeschränkungen, die eine Datei speichern, anstatt sie abzuschneiden: 2.000.000 Zeilen oder 512 MiB pro Datei, 10.000.000 Zeilen oder 2 GiB pro Scan. Ein Ordner kann maximal 25 verschiedene Layouts enthalten. Ein Tisch pro Layout Modus.

Fragen, die Menschen stellen

• Dateisystem
• Parkettordner
• Excel-Ordner
• SQLite-Ordner
• JSONL-Ordner
• CSV-Datei mit mehreren Datensätzen
• Maschinenprotokolle
• Webserver-Protokolle
• Containerprotokolle
• Anwendungsprotokolle
• Systemprotokolle
• Benutzerdefinierte Protokolle