Abfragen von CSV-Dateien mit mehreren Datensätzen mithilfe von SQL

Ordnerverbinder · Mehrfachdatensatz

Konvertieren Sie CSV-Dateien, die mehrere Datensatztypen enthalten, in SQL-Tabellen Sie können überall Abfragen durchführen.

Richten Sie den Query Streams Agent auf den Ordner aus. Er liest die Dateien auf seinem Rechner, erstellt die Tabellen in einem lokalen Cache und hält sie aktuell, sobald Dateien hinzukommen, geändert werden oder gelöscht werden. Sie können die Tabellen aus Excel, Google Sheets, Nova, Claude oder der REST-API abfragen. Es werden keine Daten hochgeladen, konvertiert oder bearbeitet.

Ungefähr 15 Minuten Keine Programmierung erforderlich Die Dateien bleiben in Ihrem Netzwerk. Der kostenlose Tarif deckt dies ab.

Was am Ende dabei herauskommt

Man erhält am Ende eine SQL-Tabelle pro Datensatztyp. Eine CSV-Datei, deren Zeilen mit HDR, ITM und TRL gekennzeichnet sind, wird zu fileset.data_hdr, fileset.data_itm und fileset.data_trlJede Spalte enthält den entsprechenden Datensatztyp aus allen Dateien im Ordner. Die Spalten sind positionsbezogen nummeriert. Feld_1 zu Feld_Nund jede Zeile trägt _Quelldatei und _seqSo können Sie eine Kopfzeile mit den zugehörigen Details in zwei Spalten verknüpfen. Der Agent liest den Ordner auf seinem eigenen Computer, speichert die Zeilen dort verschlüsselt lokal und stellt sie als SQL-Abfrage für Excel, Google Sheets, den Abfrage-Generator oder jeden anderen Client bereit. Die Dateien verbleiben in Ihrem Netzwerk.

Jede Tabelle befindet sich in einem Schema namens DateisatzDie Tabellen sind bereits für Sie benannt, eine pro Datensatz-Tag: data_<tag>Daher wird das Tag HDR zu fileset.data_hdr. Mit Tabellenumfang eingestellt auf Eine Tabelle pro Dateierweiterung und Tag, der Name wird data_<extension>_<tag>, wodurch gleiche Tags aus verschiedenen Dateitypen getrennt bleiben. Spalten sind Feld_1 zu Feld_N nach Position, wobei die Spalte mit den Tags ausgelassen wird. Jede Zeile enthält außerdem _seq, das nullbasierte Vorkommen dieses Tags innerhalb der Datei und der Verknüpfungsschlüssel zwischen Datensatztypen, plus _Quelldatei und ein _row_id der Form Pfad:Zeile.

Jeder Ordnerverbinder liefert Ihnen außerdem die Buchhaltungstabellen. Dateien, Dateien_Ereignisse, Verzeichnisse, Verzeichnis-Snapshots und Bände.

Wo es seinen Nutzen hat:

• Abfrage von Bank-, Gehaltsabrechnungs- oder EDI-Batchdateien, die Kopf-, Detail- und Folgezeilen mischen.
• Gleichen Sie die Summen der Trailer jeder Datei mit den Detailzeilen in einer einzigen Abfrage ab.
• Laden Sie eingehende Batchdateien als richtige Tabellen in Excel oder Google Sheets, anstatt sie manuell aufzuteilen.

Was Sie benötigen

Ein Query Streams-Konto

Ordnerverknüpfungen sind in allen Tarifen enthalten, auch in der kostenlosen Version. Die kostenlose Version ist ein dauerhafter Tarif und keine befristete Testphase. Es gibt keine Begrenzung für die Anzahl der Dateien, die ein Ordner enthalten kann.

Der Agent, Version 2.6.0 oder später

Die Installation erfolgt auf einem Computer, der den Ordner öffnen kann: dem Dateiserver selbst, einem Bürocomputer oder dem Rechner, auf dem die Dateien gespeichert werden. Bei einem älteren Agenten werden die Ordnerkarten ausgegraut angezeigt. Agent 2.6.0+ Badge. Windows, Mac oder Linux.

Der Pfad des Ordners, wie ihn der Agent sieht

Ein lokaler Pfad oder eine Netzwerkfreigabe, geschrieben als \\server\share\folder. The Agent runs as a service, so it cannot see drives you mapped at your login (Z: and friends). On Windows it can sign in to a share with a login you store; on Linux or a Mac, mount the share first (Linux under /mnt oder /Medien, a Mac under /Volumes).

Richten Sie es in fünf Schritten ein

1. Installieren Sie den Agenten auf einem Computer, der den Ordner öffnen kann.

   Anmelden, öffnen HerunterladenInstallieren Sie den Agenten für Ihr System auf dem Computer, der CSV-Dateien mit verschiedenen Datensatztypen öffnen kann: dem Dateiserver oder einem beliebigen Computer, der ständig eingeschaltet ist und auf die Freigabe zugreifen kann. Die Installation dauert etwa eine Minute und startet anschließend automatisch. Sie benötigen Version 2.6.0 oder höher; die aktuelle Version finden Sie immer auf der Downloadseite.

   Warum ein kleines Programm anstelle eines Treibers? Der Agent benötigt eine einmalige Installation für Windows, Mac oder Linux (ca. 85 MB unter Windows, etwas über 100 MB unter Mac und Linux). Er öffnet eine einzige verschlüsselte Verbindung zu Query Streams – dies ist der einzige benötigte Netzwerkpfad: Es muss kein eingehender Port geöffnet werden, kein VPN ist erforderlich. Der Agent liest den Ordner, in dem er sich befindet. Die Dateien bleiben also an Ort und Stelle, und nur die von einer Abfrage zurückgegebenen Zeilen werden über das Internet an das Add-in, den Browser oder den KI-Client auf Ihrem System übertragen.

   Die Downloadseite zeigt Ihr ZugangsschlüsselFügen Sie es in das Feld des Agenten ein, wenn Sie dazu aufgefordert werden, und warten Sie, bis das Abzeichen gelesen wurde. Verbunden mit AbfrageströmenDas ist das Einzige, was Sie auf dem Computer des Agenten tun; alles andere geschieht in Ihrem Browser.

   Vollständige Komplettlösungen, falls gewünscht: Fenster, Mac, Linux.

2. Richten Sie es auf CSV-Dateien, die verschiedene Datensatztypen mischen.

   Zurück in Ihrem Browser öffnen Daten → DatenagentenSuchen Sie den soeben installierten Agenten und klicken Sie darauf. Anschluss hinzufügen Schaltfläche. Öffnen Sie die Dateien und Ordner Pille und wähle die CSV-Datei mit mehreren Datensätzen Karte. Sie sind sich nicht sicher, welche Karte passt? Wählen Sie eine aus. Dateien in einem Ordner Stattdessen: Der Agent durchsucht den Ordner, benennt dessen Inhalt auf einer Seite mit dem Titel „Was wir gefunden haben“ und öffnet die richtige, vorausgefüllte Karte für Sie.

   Der Zauberer rennt Ordner → Prüfen → Einstellungen → Realm → Überprüfen. An Ordner:

   Stammverzeichnisse

   One path per line, as the Agent’s computer sees it. Each folder shows a status (reachable, denied, missing, unreachable, credentials invalid or not mounted) as soon as you add it. On a Windows Agent a share that needs a login gets one from the folder’s Credential column, stored once per server; on Linux or a Mac, mount the share first.

   Unterordner scannen, maximale Tiefe

   Ein, und standardmäßig 8 Stufen.

   Muster einschließen, Muster ausschließen

   Welche Dateien zählen? Das Include-Muster beginnt mit dem passenden Glob für diese Karte. Ein Connector liest einen Dateityp: einen Ordner mit CSV-Dateien. und Parquet-Dateien bestehen aus zwei Konnektoren im selben Ordner, einem pro Dateityp.

   Folgen Sie symbolischen Links und Kreuzungen

   Standardmäßig deaktiviert. Der Agent folgt weder Verknüpfungen noch Cloud-Platzhaltern, solange diese Option nicht aktiviert ist.

   Installieren Sie den Query Streams Agent (Version 2.6.0 oder höher) auf einem Computer, der den Ordner öffnen kann. Vom Agenten aus Anschluss hinzufügen Knopf öffnen Dateien und Ordner und wähle die CSV-Datei mit mehreren Datensätzen Karte.

   • StammverzeichnisseDie zu scannenden Ordner auf dem Agentencomputer, einer pro Zeile. Geben Sie Netzwerkfreigaben als ein. \\server\share\folder, kein zugeordneter Laufwerksbuchstabe.
   • Muster einbeziehen beginnt als **/*.csv.
   • Dateilayout, Spalte mit Datensatz-Tag (Nummer) und Trennzeichen: Welche Spalte enthält das Datensatz-Tag und wodurch werden die Felder getrennt?
   • Tabellenumfang: Standardeinstellung für eine Tabelle pro Tag beibehalten. Auswählen Eine Tabelle pro Dateierweiterung und Tag um dasselbe Tag aus verschiedenen Dateitypen in separaten Tabellen zu speichern.

   Es gibt kein Tabellenname Feld und Nr. Tabellenlayout Auswahl. Tabellen werden benannt data_<tag>In einem Hinweis wird erläutert, dass alle übereinstimmenden Dateien ein gemeinsames Layout haben müssen, das beim ersten Synchronisieren anhand eines Beispiels festgelegt wird; Dateien, die später nicht übereinstimmen, werden beiseitegelegt und gemeldet.

3. Prüfen Sie, was es erstellen wird.

   An Überprüfen Der Agent liest eine Stichprobe von bis zu 64 Dateien und zeigt an, was er erstellen wird. Es wird noch nichts erstellt. Die Schaltfläche lautet: Testverbindung bis ein Urteil vorliegt, dann Weiter; Testen Sie erneut Das Beispiel wird nach jeder Änderung erneut ausgeführt. Es wird eine von vier Schlagzeilen angezeigt:

   Bereit zum Erstellen

   Jede Stichprobendatei passt. Die darunterliegenden Chips geben an, wie viele Ordner erreichbar waren, wie viele Dateien und Zeilen es gibt und welche Tabellen vorhanden sein werden.

   Fertig, mit Notizen

   Einige Dateien werden aussortiert oder die Layoutprüfung wurde fehlgeschlagen. Ein gelbes Banner zeigt genau an, welche Dateien betroffen sind: „{n} von {m} Dateien werden aussortiert“. Zeigen Sie, welche Dateien und warum Liste und „Sie können sie trotzdem erstellen – der Konnektor überprüft dies immer wieder und meldet den Grund auf der Registerkarte „Manifest“.

   Aufmerksamkeit erforderlich

   Der Agent ist offline oder ein Ordner fehlt. Beheben Sie das Problem, bevor Sie fortfahren; wenn der Agent offline ist, wird dies zwar angezeigt, Sie können aber trotzdem fortfahren.

   Eine Ablehnung oder zurückgestellte Akten blockieren Sie nicht: Klicken Sie WeiterSchließen Sie den Assistenten ab und beheben Sie die fehlerhaften Dateien später. Nur ein offline befindlicher Agent oder ein fehlender Ordner verhindert den Abschluss des Assistenten.

   An ÜberprüfenDer Agent liest eine Stichprobe von bis zu 64 Dateien und zeigt die Dateianzahl, die Größe, die geschätzte Zeilenanzahl und die zu erstellenden Tabellen an – eine pro gefundenem Datensatz-Tag – beispielsweise in einer Kurzbeschreibung wie „3 Tabellen: data_hdr, data_itm, data_trl“. Es werden noch keine Tabellen erstellt. Ist die Tag-Spalte falsch konfiguriert, entsprechen die vom Agenten aufgelisteten Tags nicht Ihren Datensatztypen. In diesem Fall sollten Sie die Einstellungen korrigieren. Spalte mit Datensatz-Tag (Nummer) oder TrennzeichenDateien, die der Agent nicht als CSV lesen konnte, werden unter folgendem Pfad angezeigt: Zeigen Sie, welche Dateien und warum Die Dateien werden beiseitegelegt, mit dem Hinweis „1 von 12 Dateien werden beiseitegelegt“, die restlichen werden weiterhin geladen. Sie können den Konnektor auf beide Arten erstellen; er prüft fortlaufend und meldet den Grund. Manifest Tab.

4. Wählen Sie die Scanfrequenz und erstellen Sie den Scanvorgang anschließend.

   Die Standardeinstellungen auf Einstellungen Geeignet für einen Ordner, der nur wenige Dateien pro Tag empfängt. Vier Punkte, die Sie möglicherweise ändern möchten:

   Scanintervall

   Jede Stunde Standardmäßig; wählbar von alle 5 Minuten bis täglich. Bei jedem Durchlauf werden Größe und Änderungsdatum verglichen, um neue, geänderte und verschwundene Dateien zu finden.

   Ordner auf Änderungen überwachen (nahezu in Echtzeit)

   Standardmäßig deaktiviert. Im aktivierten Zustand reagiert der Agent innerhalb von Sekunden auf lokalen Festplatten; bei Netzwerkfreigaben erfolgt die Reaktion nach bestem Bemühen, und der geplante Scan bleibt die Garantie. Ruhezeit (15 Sekunden) wartet, bis das Schreiben einer Datei abgeschlossen ist.

   Bitte aktualisieren Sie die Seite, bevor Sie eine Anfrage beantworten.

   Standardmäßig deaktiviert. Bei Aktivierung wird eine Abfrage zuerst erneut gescannt, wenn der letzte Scan älter als der letzte Scan ist. Fenster für Frische (60 Sekunden), wobei höchstens die Wartezeit beträgt Abfragewartezeitlimit (5 Sekunden). Dies gilt für Personen und Add-Ins, nicht für Benachrichtigungsumfragen.

   Wenn eine Datei verschwindet

   Entferne die Zeilen standardmäßig oder Zeilen beibehalten, gelöschte Zeilen als gelöscht markieren (Grabstein). Der Vanish-Guard-Verhältnis (0.5) lehnt einen Scan ab, bei dem mehr als die Hälfte der Dateien auf einmal verloren gehen, und behält den vorherigen Bestand bei, was einer Offline-Freigabe entspricht.

   Wählen Sie dann die Datenbereich die Zeilen zählen, überprüfen Rezension und klicken Sie Konnektor erstellenDer erste Scan startet sofort. Der Anschluss Manifest Der Tab zeigt an, was erstellt wurde und welche Dateien beiseitegelegt wurden.

5. Schaut euch eure Tabellen an

   Öffnen Sie den Stecker: Manifest Die Registerkarte listet die erstellten Tabellen auf. Abfrage-Generator Die gleichen Tische stehen unter dem Dateisatz Schema. Drei Abfragen, die vom ersten Tag an funktionieren:

   Header-Datensätze, in Dateireihenfolge

   SELECT _source_file, _seq, field_1, field_2 FROM fileset.data_hdr ORDER BY _source_file, _seq LIMIT 100

   Jede Headerzeile jeder Datei, zusammen mit der Datei, aus der sie stammt, und ihrer Position innerhalb der Headerzeilen dieser Datei.

   Der Kopf jeder Datei neben ihrem Trailer

   SELECT h._source_file, h._seq, h.field_1 AS header_field_1, t.field_1 AS trailer_field_1 FROM fileset.data_hdr AS h JOIN fileset.data_trl AS t ON t._source_file = h._source_file AND t._seq = h._seq ORDER BY h._source_file, h._seq LIMIT 100

   Verknüpft zwei Datensatztypen über die beiden gemeinsamen Spalten _source_file und _seq, sodass der n-te Header auf den n-ten Trailer in derselben Datei trifft.

   Dateien, die aufgrund eines unbekannten Tags oder falscher Breite zurückgestellt wurden

   SELECT relative_path, event_type, detected_by, detail, event_at FROM fileset.files_events WHERE event_type IN ('refused', 'drift') ORDER BY event_at DESC LIMIT 20

   Jede Datei, deren Zeilen ausgelassen wurden, mit detaillierter Begründung.

   Jeder Ordnerverbinder dient auch denselben Buchhaltungstabellen, alle im Dateisatz Schema:

   Tisch	Was es enthält
   Dateien	Alle aktuell im Ordner befindlichen Dateien: Pfad, Name, Dateiendung, Größe, Erstellungs- und Änderungsdatum, zuletzt gesehen und zuletzt aufgerufen. Eine Übersicht über files_current, in dem auch verschwundene Dateien aufbewahrt werden.
   Dateien_Ereignisse	Die Änderungshistorie: eine Zeile pro Datei erschien, War modifiziert, verschwandwurde beiseite gelegt (Driftoder war abgelehnt, mit der Zeit in event_at, wie es bemerkt wurde in erkannt von und der Grund dafür Detail.
   Verzeichnisse, Verzeichnis-Snapshots, Bände	Anzahl und Größe der Ordner, wie sie gewachsen sind und auf welchen Datenträgern oder Freigaben die Stammverzeichnisse liegen.
   _Quelldatei, _row_id	Jede Datenzeile enthält zwei Spalten: die Datei, aus der die Zeile stammt, und eine eindeutige Zeilen-ID innerhalb dieser Datei. Gruppieren nach _Quelldatei um Dateien zu vergleichen.

Reaching a file on a network share

The Agent opens files as a background service, not as you, so a file on another computer needs one extra step. Which step depends on the computer the Agent runs on.

If the test cannot get to the share, look for these words in its result: unreachable means the Agent’s computer got no answer from the server. On Linux or a Mac, not mounted means the share still has to be mounted, and that message includes the exact mount command for your server.

When a folder is not reachable

Every folder on the Ordner step shows a status as soon as you add it. Hover the status to read the Agent’s own message; its first words say which case it is.

Nutze es überall

Der Konnektor ist eine Datenquelle wie jede andere in Query Streams. Speichern Sie eine Abfrage einmalig im Abfrage-Generator (der Dialekt ist DuckDB) und verwenden Sie es von hier aus:

Excel

Das Add-in Streamen Sie eine Abfrage Die Zeilen werden in ein Tabellenblatt eingefügt und bei einem Klick erneut ausgeführt. SQL in Excel ausführen.

Google Sheets

Der Abfragestreamer Das Add-on füllt einen von Ihnen ausgewählten Tab. Power Query für Google Sheets.

Claude, Cursor und andere KI-Clients

Über den Query Streams MCP-Server kennt Claude das Ordnermodell, einschließlich _Quelldatei und Dateien_Ereignisse. Mehrfachaufnahme mit Claude über MCP.

REST-API

Jede gespeicherte Abfrage wird in jedem Tarif zu einem schreibgeschützten Endpunkt mit eigenem Schlüssel. Multi-Record-REST-API.

Nova

Fragen Sie in einfachen Worten nach dem Businessplan; Nova kennt jede Ordnertabelle und Spalte anhand seiner integrierten Beschreibungen.

Automatisierungen

Synchronisieren Sie die Zeilen nach einem Zeitplan mit Airtable, Smartsheet, Baserow, SeaTable oder einem Tabellenblatt. Automatisierungsleitfäden.

Ordnertabellen lassen sich auch mit Ihren anderen Konnektoren verknüpfen: Eine föderierte Abfrage kann übereinstimmen _Quelldatei Namen oder Bestellnummern in CSV-Dateien, die mehrere Datensatztypen in einer Datenbank auf demselben Agenten vermischen.

Wie neue, geänderte und gelöschte Dateien angezeigt werden

beiseitegelegte Dateien

Im Schritt „Prüfen“ und auf der Registerkarte „Manifest“ erscheinen drei Wörter. Sie haben unterschiedliche Bedeutungen:

Beiseite stellen (geparkt)

Die Datei entspricht nicht dem festgelegten Layout oder ist unlesbar, beschädigt, gesperrt oder über einer Kappe. Es gilt das Alles-oder-Nichts-Prinzip: Eine geparkte Datei trägt null Zeilen bei. Dateien_Ereignisse Aufzeichnungen Drift Reihe, deren Detail Die Datei und die Spalte werden benannt. Die Datei wird übersprungen, solange ihre Größe und ihr Änderungsdatum gleich bleiben, und erneut versucht, sie zu laden, sobald sie sich ändert.

Unlesbar

Der Agent konnte die Datei aufgrund ihres Typs nicht öffnen oder analysieren: keine echte Arbeitsmappe, von einem anderen Programm gesperrt, ein Cloud-Platzhalter, nicht dekodierbare Bytes. Er bricht den Vorgang ab, und der Rest des Ordners wird weiterhin verarbeitet. Nur ein Ordner ohne lesbare Dateien verweigert die Verarbeitung des gesamten Pakets.

Abgelehnt

Der Agent konnte kein Layout festlegen, beispielsweise weil die Dateien unterschiedliche Spaltentypen verwenden. Es existiert noch keine Datentabelle. Dateien_Ereignisse bekommt ein abgelehnt Zeile mit dem Grund in DetailDer Agent versucht es bei jedem Scan erneut, bis ein Layout gefunden wird. Korrigieren oder schließen Sie die angegebene Datei aus, dann verschwindet die Meldung.

Wo man suchen muss: das bernsteinfarbene Banner auf Überprüfen (Zeigen Sie, welche Dateien und warum), des Steckverbinders Manifest Anschließend die Tabulatortaste. In SQL: SELECT relative_path, event_type, detail FROM fileset.files_events WHERE event_type IN ('drift','refused') ORDER BY event_at DESC.

Grenzen, die man kennen sollte

Es gibt keine Beschränkung hinsichtlich Ordnern oder Dateianzahl. Die Zeilen werden wie bei jedem anderen Connector auf Ihren Datenbereich angerechnet. Standardeinstellungen, die Sie für den Connector anpassen können:

Inhaltsbeschränkungen, die eine Datei speichern, anstatt sie abzuschneiden: 2.000.000 Zeilen oder 512 MiB pro Datei, 10.000.000 Zeilen oder 2 GiB pro Scan. Ein Ordner kann maximal 25 verschiedene Layouts enthalten. Ein Tisch pro Layout Modus.

Fragen, die Menschen stellen

• Dateisystem
• CSV-Ordner
• Parkettordner
• Excel-Ordner
• SQLite-Ordner
• JSONL-Ordner
• Maschinenprotokolle
• Webserver-Protokolle
• Containerprotokolle
• Anwendungsprotokolle
• Systemprotokolle
• Benutzerdefinierte Protokolle