Analisis Log Kustom dengan SQL: Mengurai Log Teks Apa Pun

Konektor folder · Log Kustom

Ubah log teks apa pun yang Anda deskripsikan menjadi Tabel SQL Anda dapat melakukan kueri di mana saja.

Arahkan Query Streams Agent ke folder tersebut. Agen ini membaca file log di komputernya sendiri, membangun tabel di cache lokal di sana, dan memperbaruinya secara berkala saat file datang, berubah, atau hilang. Anda dapat melakukan query dari Excel, Google Sheets, Nova, Claude, atau REST API. Tidak ada yang diunggah dan tidak ada file yang dikonversi atau diedit.

Sekitar 15 menit Tidak perlu coding. File tetap berada di jaringan Anda. Paket gratis mencakup hal tersebut.

Inilah hasil akhirnya

Folder Log Kustom digunakan untuk log teks apa pun yang tidak dikenali oleh kartu bawaan. Anda cukup mendeskripsikan formatnya sekali, atau membiarkan Nova menyarankan formatnya, dan setiap baris akan menjadi satu baris dalam tabel bernama acaraSampai Anda menentukan kolom, setiap baris adalah bagian dari garis tersebut. pesan ditandai dengan nama_file Sumbernya berasal dari sana. Baris yang formatnya tidak sesuai akan disimpan dalam tabel baris mentah beserta alasannya, sehingga tidak ada yang hilang. Anda dapat melakukan kueri baris dengan SQL dari Excel, Google Sheets, atau dasbor, sementara file tetap berada di komputer yang menjalankan Agen.

Baris yang diuraikan mendarat di kumpulan file.kejadian, atau di dalam Nama tabel Anda yang memilih. Agen menyalin baris-baris tersebut ke dalam cache lokal di komputer Agen dan menyajikannya sebagai SQL.

Setiap konektor folder juga memberi Anda berkas, file_kejadian, direktori, cuplikan direktori dan volume, dan konektor log menambahkan kursor_log dengan posisi baca setiap file. Selalu Urutkan berdasarkan waktu_acara.

Di sinilah letak keberhasilannya:

• Mengakses log aplikasi internal dalam spreadsheet tanpa perlu menulis parser.
• Buat grafik kesalahan pekerjaan batch semalaman pada dasbor dari log teks biasa.
• Jaga agar log teks perangkat lama tetap dapat dicari dengan SQL bersama data Anda lainnya.

Yang Anda butuhkan

Akun Query Streams

Konektor folder tersedia di semua paket, termasuk paket Gratis. Paket Gratis adalah paket permanen, bukan uji coba yang akan berakhir. Tidak ada batasan jumlah file yang dapat ditampung oleh sebuah folder.

Agen, versi 2.6.0 atau lebih baru

Diinstal pada komputer yang dapat membuka folder: server file itu sendiri, komputer kantor, atau mesin tempat file tersebut berada. Agen versi lama menampilkan kartu folder berwarna abu-abu dengan tanda centang. Agen 2.6.0+ Lencana. Windows, Mac, atau Linux.

Jalur folder, seperti yang dilihat oleh Agen.

Jalur lokal, atau berbagi jaringan yang ditulis sebagai \\server\share\folder. The Agent runs as a service, so it cannot see drives you mapped at your login (Z: and friends). On Windows it can sign in to a share with a login you store; on Linux or a Mac, mount the share first (Linux under /mnt atau /media, a Mac under /Volumes).

Siapkan dalam lima langkah

1. Instal Agen pada komputer yang dapat membuka folder tersebut.

   Masuk, buka UnduhKemudian instal Agen untuk sistem Anda di komputer yang dapat membuka log teks apa pun yang Anda jelaskan: server file, atau komputer yang selalu aktif yang dapat mengakses folder bersama. Proses ini hanya membutuhkan waktu satu menit dan akan berjalan dengan sendirinya setelah itu. Anda memerlukan versi 2.6.0 atau yang lebih baru; halaman Unduhan selalu menyediakan versi terbaru.

   Mengapa menggunakan program kecil alih-alih driver? Agent ini merupakan instalasi tunggal untuk Windows, Mac, atau Linux (sekitar 85 MB di Windows, sedikit lebih dari 100 MB di Mac dan Linux). Agent ini membuka satu koneksi terenkripsi keluar ke Query Streams dan hanya itu jalur jaringan yang dibutuhkannya: tidak ada port masuk yang perlu dibuka, tidak ada VPN. Agent ini membaca folder tempatnya berada, sehingga file tetap di tempatnya dan hanya baris yang dikembalikan oleh kueri yang dikirim melalui internet ke add-in, browser, atau klien AI di sisi Anda.

   Halaman Unduhan menampilkan Kunci Akses AndaTempelkan ke dalam Agent saat diminta, dan tunggu hingga badge terbaca. Terhubung ke Aliran KueriItulah satu-satunya hal yang Anda lakukan di komputer Agen; semua hal lainnya terjadi di browser Anda.

   Panduan lengkap jika Anda menginginkannya: Windows, Mac, Linux.

2. Arahkan ke log teks apa pun yang Anda deskripsikan.

   Kembali ke browser Anda, buka Data → Agen Data, temukan Agen yang baru saja Anda instal dan klik Agen tersebut. Tambahkan konektor tombol. Buka Berkas & Folder pil dan pilih Folder Log Kustom kartu. Tidak yakin kartu mana yang cocok? Pilih Berkas dalam sebuah folder Sebagai gantinya: Agen akan mengambil sampel folder, menyebutkan isinya di halaman "Apa yang kami temukan" dan membuka kartu yang tepat untuk Anda, yang sudah terisi sebelumnya.

   Penyihir itu berlari Folder → Periksa → Pengaturan → Realm → Tinjau. Pada Folder:

   Folder akar

   One path per line, as the Agent’s computer sees it. Each folder shows a status (reachable, denied, missing, unreachable, credentials invalid or not mounted) as soon as you add it. On a Windows Agent a share that needs a login gets one from the folder’s Credential column, stored once per server; on Linux or a Mac, mount the share first.

   Pindai subfolder, Kedalaman maksimum

   Aktif, dan 8 level, secara default.

   Sertakan pola, Kecualikan pola

   File mana yang dihitung. Pola penyertaan dimulai dengan glob yang tepat untuk kartu ini. Satu konektor membaca satu jenis file: folder dengan CSV. dan File Parquet memiliki dua konektor pada folder yang sama, satu untuk setiap tipe.

   Ikuti symlink dan junction

   Secara default, fitur ini dinonaktifkan. Agen tidak mengikuti pintasan atau placeholder cloud kecuali Anda mengaktifkannya.

   Di Portal, buka Agen yang dapat melihat folder tersebut dan klik Tambahkan konektor. Di bawah Berkas & Folder memilih Folder Log KustomSetelah dibuat, maka akan muncul di daftar konektor sebagai Berkas Log.

   • Tambahkan folder di bawah ini Folder akarKetikkan nama folder jaringan sebagai \\server\share\folder, bukan sebagai huruf drive yang dipetakan.
   • Mengatur Sertakan pola agar sesuai dengan file Anda. Pengaturan default driver log adalah **/*.log dan **/*.txt.
   • Jelaskan formatnya. Folder Log Kustom adalah satu-satunya kartu log yang dapat Anda edit: tentukan di mana stempel waktu berada dalam satu baris dan bagian mana yang menjadi kolom. Atau klik Biarkan Nova menyarankan formatnya. yang memiliki batasan harian.
   • Nama tabel bersifat opsional dan secara default bernilai acara.
   • Pengisian kembali (hari) adalah 30. Pertahankan acara selama N hari Menyimpan semuanya kecuali jika Anda mengaturnya.

   Jika format Anda umum, daftar tersebut juga menyatakan: “Membutuhkan jenis log yang tidak tercantum? Ajukan permintaan dukungan dan kami akan menambahkannya dalam beberapa hari.”

3. Periksa apa yang akan dibangunnya.

   Pada Memeriksa Agen membaca sampel hingga 64 file dan menunjukkan apa yang akan dibangun. Belum ada yang dibuat. Tombol bertuliskan Uji koneksi sampai ada putusan, maka Berikutnya; Coba lagi Program ini akan menjalankan ulang sampel setelah Anda mengubah sesuatu. Anda akan melihat salah satu dari empat judul berita berikut:

   Siap untuk membuat

   Setiap berkas yang diambil sampelnya akan muat. Chip di bawahnya menunjukkan berapa banyak folder yang dapat diakses, berapa banyak berkas dan baris, serta tabel mana yang akan ada.

   Siap, dengan catatan

   Beberapa berkas akan disisihkan, atau pendeteksian tata letak ditolak. Sebuah spanduk berwarna kuning menunjukkan dengan tepat yang mana: “{n} dari {m} berkas akan disisihkan” dengan Tunjukkan file mana dan mengapa. daftar, dan “Anda tetap dapat membuatnya — konektor akan terus memeriksa ulang dan melaporkan alasannya pada tab Manifest-nya.”

   File-file ini bukan tipe log ini.

   Sampel tersebut tidak diuraikan sesuai format log kartu ini. Periksa apakah Anda memilih kartu yang tepat, atau gunakan Folder Log Kustom kartu dan jelaskan formatnya.

   Penolakan atau berkas yang disisihkan tidak akan pernah menghalangi Anda: klik saja. Berikutnya, selesaikan wizard dan perbaiki file yang bermasalah nanti. Hanya Agent yang offline atau folder yang hilang yang menghentikan wizard.

   Pada MemeriksaAgen tersebut membacakan sebuah contoh dan menunjukkan apa yang akan dibangun. Belum ada yang dibuat. Jika contoh tersebut tidak sesuai dengan format yang Anda jelaskan, judulnya berbunyi: File-file ini bukan diikuti oleh tipe, dan spanduk kuning bertuliskan “Pemeriksaan skema ditolak:” beserta alasannya. Buka Tunjukkan file mana dan mengapa. Untuk melihat berkas dan kisi alasan. Sesuaikan format, atau perketat. Sertakan pola jadi file-file yang tidak terpakai akan terlewatkan, lalu Coba lagiAnda juga tetap bisa membuatnya. Konektor akan terus memeriksa ulang dan melaporkan alasannya. Tampak tab, dan baris yang tidak cocok mendarat di baris_mentah_peristiwa di mana Anda dapat membacanya dan menyempurnakan formatnya.

4. Pilih seberapa sering pemindaian dilakukan, lalu buatlah.

   Pengaturan default pada Pengaturan Cocok untuk folder yang hanya menerima beberapa file per hari. Empat hal yang mungkin ingin Anda ubah:

   Interval pemindaian

   Setiap jam Secara default; pilih dari setiap 5 menit hingga harian. Setiap pemindaian membandingkan ukuran dan waktu modifikasi untuk menemukan file baru, yang diubah, dan yang hilang.

   Pantau folder untuk perubahan (hampir secara real-time)

   Secara default nonaktif. Jika diaktifkan, Agent akan bereaksi dalam hitungan detik pada disk lokal; pada berbagi jaringan, prosesnya dilakukan secara bertahap dan pemindaian terjadwal tetap menjadi jaminan. Periode tenang (15 detik) menunggu hingga penulisan berkas selesai.

   Segarkan halaman sebelum menjawab pertanyaan.

   Nonaktif secara default. Jika diaktifkan, kueri akan melakukan pemindaian ulang pertama kali ketika pemindaian terakhir lebih lama dari Jendela basi (60 detik), menunggu paling lama Batas tunggu kueri (5 detik). Ini berlaku untuk orang dan add-in, bukan untuk polling peringatan.

   Ketika sebuah file hilang

   Hilangkan barisnya secara default, atau Pertahankan baris, tandai sebagai terhapus (batu nisan). Itu Rasio penjaga menghilang (0.5) menolak pemindaian yang menghilangkan lebih dari setengah file sekaligus dan mempertahankan inventaris sebelumnya, yang merupakan tampilan berbagi offline.

   Kemudian pilih Ranah Data Jumlah baris dihitung, periksa Tinjauan lalu klik Buat konektorPemindaian pertama dimulai segera. Konektornya Tampak Tab tersebut menunjukkan apa yang telah dibangun dan file apa saja yang telah disisihkan.

5. Lihatlah tabel Anda

   Buka konektornya: Tampak tab tersebut mencantumkan tabel yang telah dibuat dan Berkas Dialog tersebut menampilkan daftar setiap file log beserta statusnya. Di dalam Pembuat Kueri meja yang sama berada di bawah kumpulan file skema. Tiga kueri yang berfungsi sejak hari pertama:

   Baris terbaru beserta file asalnya

   SELECT event_time, file_name, message FROM fileset.events ORDER BY event_time DESC LIMIT 100

   100 data terbaru dari semua file dalam folder. Berfungsi sebelum Anda menentukan kolom apa pun.

   Jumlah baris yang menyebutkan kesalahan, per file, dalam satu hari terakhir.

   SELECT file_name, COUNT(*) AS errors FROM fileset.events WHERE message ILIKE '%error%' AND event_time >= now() - INTERVAL 1 DAY GROUP BY file_name ORDER BY errors DESC LIMIT 100

   Pencocokan teks pada pesanSetelah format Anda menentukan kolom level, filterlah berdasarkan kolom tersebut.

   Baris yang formatnya tidak sesuai dengan Anda, karena alasan tertentu

   SELECT reason, COUNT(*) AS lines, MIN(line) AS example FROM fileset.events_raw_lines GROUP BY reason ORDER BY lines DESC

   Membaca baris_mentah_peristiwaGunakan contoh-contoh tersebut untuk menyempurnakan format, lalu simpan konektor dan sampel ulang Agen.

   Setiap konektor folder juga melayani tabel pembukuan yang sama, semuanya di dalam kumpulan file skema:

   Meja	Apa yang terkandung di dalamnya
   berkas	Setiap file yang saat ini ada di dalam folder: jalur, nama, ekstensi, ukuran, waktu pembuatan dan modifikasi, waktu pertama dan terakhir dilihat. Tampilan keseluruhan. file_saat ini, yang juga menyimpan file-file yang telah hilang.
   file_kejadian	Riwayat perubahan: satu baris per file yang muncul, adalah dimodifikasi, menghilang, disisihkan (melayang) atau adalah ditolak, dengan waktu di acara_pada, bagaimana hal itu diperhatikan di terdeteksi oleh dan alasannya detail.
   direktori, cuplikan direktori, volume	Jumlah dan ukuran folder, bagaimana pertumbuhannya, dan cakram atau lembaran tempat akar-akarnya berada.
   berkas sumber, _id_baris	Dua kolom pada setiap baris data: dari file mana baris tersebut berasal, dan ID baris tetap di dalam file tersebut. Kelompokkan berdasarkan berkas sumber untuk membandingkan file.

Reaching a file on a network share

The Agent opens files as a background service, not as you, so a file on another computer needs one extra step. Which step depends on the computer the Agent runs on.

If the test cannot get to the share, look for these words in its result: unreachable means the Agent’s computer got no answer from the server. On Linux or a Mac, not mounted means the share still has to be mounted, and that message includes the exact mount command for your server.

When a folder is not reachable

Every folder on the Folder step shows a status as soon as you add it. Hover the status to read the Agent’s own message; its first words say which case it is.

Gunakan di mana saja

Konektor ini merupakan sumber data seperti sumber data lainnya di Query Streams. Simpan kueri sekali saja di dalam Pembuat Kueri (dialeknya adalah DuckDB) dan gunakan dari:

Excel

Add-in tersebut Mengalirkan Kueri Menampilkan baris-baris tersebut ke dalam sebuah lembar kerja dan menjalankannya kembali dengan sekali klik. Menjalankan SQL di Excel.

Lembar Kerja Google

Itu Pengalir Kueri Add-on ini mengisi tab yang Anda pilih. Kueri Daya untuk Google Spreadsheet.

Claude, Cursor, dan klien AI lainnya

Melalui server Query Streams MCP; Claude mengetahui model folder, termasuk berkas sumber dan file_kejadian. Log Kustom bersama Claude melalui MCP.

API REST

Setiap kueri yang tersimpan akan menjadi titik akhir hanya baca dengan kunci tersendiri, pada setiap rencana. API REST Log Kustom.

Nova

Tanyakan dengan bahasa yang mudah dipahami pada paket Bisnis; Nova mengetahui setiap folder, tabel, dan kolom dari deskripsi bawaannya.

Otomatisasi

Sinkronkan baris ke Airtable, Smartsheet, Baserow, SeaTable, atau lembar kerja sesuai jadwal. Panduan otomatisasi.

Tabel folder juga terhubung ke konektor Anda yang lain: kueri gabungan dapat mencocokkan berkas sumber nama atau ID pesanan dalam log teks apa pun yang Anda deskripsikan terhadap basis data pada Agen yang sama.

Bagaimana file baru, yang diubah, dan yang dihapus ditampilkan

Berkas yang disisihkan

Tiga kata muncul pada langkah Periksa dan tab Manifest. Ketiga kata tersebut memiliki arti yang berbeda:

Disisihkan (diparkir)

Berkas tersebut tidak sesuai dengan tata letak yang disematkan, atau tidak dapat dibaca, robek, terkunci, atau tertutup oleh huruf kapital. Semuanya atau tidak sama sekali per berkas: berkas yang diparkir tidak memberikan kontribusi baris apa pun. file_kejadian mencatat sebuah melayang baris yang detail menyebutkan nama file dan kolomnya. File dilewati selama ukuran dan waktu modifikasinya tetap sama, dan dicoba lagi segera setelah berubah.

Tidak terbaca

Agen tidak dapat membuka atau menguraikan file tersebut karena tipenya: bukan buku kerja sungguhan, terkunci oleh program lain, placeholder cloud, byte yang tidak dapat diuraikan. File tersebut berhenti sendiri dan sisa folder berlanjut. Hanya folder dengan nol file yang dapat dibaca yang menolak seluruh rangkaian file.

Ditolak

Agen tidak dapat menyematkan tata letak apa pun, misalnya karena file tidak sesuai pada tipe kolom. Belum ada tabel data yang tersedia. file_kejadian mendapat ditolak baris dengan alasan di detail, dan Agen mencoba lagi pada setiap pemindaian hingga tata letak ditemukan. Perbaiki atau kecualikan file yang disebutkan dan pesan akan hilang.

Di mana harus melihat: spanduk kuning di Memeriksa (Tunjukkan file mana dan mengapa.), konektornya Tampak tab setelahnya, dan untuk konektor log Berkas dialog, yang mencantumkan file yang diparkir beserta alasannya di kesalahan terakhirDalam SQL: SELECT relative_path, event_type, detail FROM fileset.files_events WHERE event_type IN ('drift','refused') ORDER BY event_at DESC.

Batasan yang perlu diketahui

Tidak ada batasan paket untuk folder atau jumlah file. Baris tetap dihitung dalam Data Realm Anda seperti konektor lainnya. Pengaturan default yang dapat Anda naikkan atau turunkan pada konektor:

Batasan konten, yang memarkir file alih-alih memotongnya: 2.000.000 baris atau 512 MiB per file, 10.000.000 baris atau 2 GiB per pemindaian. Sebuah folder dapat menampung paling banyak 25 tata letak berbeda. Satu meja per tata letak mode.

Pertanyaan yang diajukan orang

• Sistem Berkas
• Folder CSV
• Folder Parket
• Folder Excel
• Folder SQLite
• Folder JSONL
• CSV multi-rekaman
• Catatan Mesin
• Log Server Web
• Log Kontainer
• Log Aplikasi
• Log Sistem